基于猜想与反驳的 LLM Agent 动作预执行验证
🧭 Agent 动作预执行验证 · 猜想与反驳 ★ 深度解读
Pohang University of Science and Technology · National AI Research Lab
提出 BLACKSWAN:对每个会改变环境的动作,先预测效果、再生成可测试的怀疑并验证,执行前主动寻找反驳证据
📌 工作参考价值(4 点)
- 对电商/广告/搜索推荐中的高危不可逆操作(下单、发送营销 push、修改商品价格、删除广告计划)可引入“预期-怀疑-测试”三阶段 guard:在执行前让模型先写清预期效果,再列出可证伪的具体担忧,最后用只读 API 查询验证;任一担忧被证实即拦截并重写动作。
- 把验证逻辑从“找支持证据”改为“找反驳证据”,并将怀疑预先注册、固定后再去测试,能避免模型先看到证据再反向修正假设,可复用到工具调用安全校验与 Agent 风控中;实现时让怀疑绑定到具体代码元素(变量、API 参数),否则容易产生无关担忧。
- 只对 state-mutating API 启用该机制,read-only 操作直接放行,能平衡安全与 token 成本;论文中 BLACKSWAN 的代价约为 1.5–9.4 倍 ReAct,弱模型收益更大,适合中小参数模型在关键路径上的兜底。
- 零样本/少样本条件下依然有效,说明不需要大量 in-context 演示即可迁移;如果业务中已有手工规则或 pre-defined 检查,可以替换为 LLM 生成反驳假设 + 环境验证的软校验,减少硬编码漏报。
KITE:将检索构建为长期对话记忆的决策过程
🧭 Agent 长期记忆检索决策化
Memoket AI Research · Universität Stuttgart · Georgia Institute of Technology · Tsinghua University
KITE将长期对话记忆检索变成受控主题索引上的可检查决策过程,LoCoMo/LongMemEval-S准确率93.5%/86.0%,仅约1.6k tokens
📌 工作参考价值(3 点)
- 在电商客服/对话式推荐 Agent 里,长期记忆不要只依赖 embedding 相似度;可以维护一个受控的主题/商品/意图词汇表,把查询编译为显式检索计划,根据问题包含的时间、实体、主题条件去定位历史证据,提升可审计性。
- 对结构化主题索引遗漏的表面细节,用 BM25 等稀疏词法检索兜底,适合找回订单号、SKU、地址、优惠码等精确字符串,避免 embedding 模糊匹配丢失关键信息。
- 受控索引的动态扩展与合并可用于治理电商知识库和会话 topic;固定 lookup/ranking 执行路径可降低 LLM 调用成本,每题仅约 1.6k reader-context tokens,对高并发成本敏感的 Agent 场景有直接复用价值。
从意图到提升:面向模型训练的 Agent 数据集搜索框架
🧭 LLM Agent 约束治理的数据集检索
Nanjing University · State Key Laboratory for Novel Software Technology
提出契约治理的 AgenticDS 框架,用 typed object 约束 LLM 决策并验证约束,显著提升数据集搜索与下游训练效果
📌 工作参考价值(4 点)
- 在商品召回/广告候选生成中,让 LLM 先输出结构化筛选条件(类目、价格、库存、品牌授权、合规标签)再交给确定性规则引擎执行,避免模型自报匹配但漏硬约束;这种 typed object + deterministic operators 的边界可提升链路可信度。
- 稀疏元数据的长尾商品/新广告主:用有界图扩展(如品牌→店铺→商品,或类目→属性)补全语义缺失,但必须限制跳数避免噪声,类似 bounded graph expansion。
- 当模型输出候选列表时,要求先基于 provenance 证据验证(例如商品属性值、广告审核字段)再排序,不通过时返回可解释诊断与局部修复指令,减少整条链路的无效重试。
- 对含硬约束的 query(如“高转化且库存>100且配送时效24h”),可借鉴 typed search plan 编译方式,把自然语言 query 解析为可执行计划,而不是直接用向量检索。
以技能为中心的智能体推进临床基因组分析
🧭 LLM Agent 技能编排与临床决策支持
Shanghai Jiao Tong University · Shanghai AI Laboratory · Xinhua Hospital affiliated to Shanghai Jiao Tong University School of Medicine · The Chinese University of Hong Kong · Shanghai Chest Hospital, Shanghai Jiao Tong University School of Medicine
ClinGeX智能体组合105个可执行临床基因组技能,留出基准一致性71.7%,远超最强对比45.7%
📌 工作参考价值(4 点)
- 技能化封装领域能力:将推荐/搜索系统中的召回、排序、过滤、解释等环节封装为可执行技能(API/工具),LLM 根据任务上下文检索并组合,而非直接生成,可显著提升可控性与可维护性,尤其适合多步骤重决策场景。
- 任务特异检索与依赖感知编排:为不同业务场景(新品、促销、长尾商品)维护技能索引,按任务类型动态检索少量相关技能,减少 prompt 长度;同时用 DAG 管理技能依赖(先召回后排序、先过滤后解释),避免 Agent 乱序调用。
- 人机协作评估设计:借鉴其三条件对照(无 AI、通用 LLM、专用 Agent)和真实世界反馈,在电商运营/算法协作中量化专家采纳率与效率提升,避免只看离线指标。
- 时间留出验证:采用 temporally held-out 切分评估,防止信息泄漏,推荐系统模型迭代中也应严格按时间切割验证集,评估泛化能力。
ETAMem:面向长期对话智能体的异构记忆解耦与多视图对齐框架
🧭 Agent 长期记忆 · 多视图解耦 ★ 深度解读
Nankai University · Tiangong University · University of Edinburgh
将对话记忆拆分为事件、情感、时间三视图并自适应路由检索,显著提升长期记忆中的多跳与时间推理。
📌 工作参考价值(4 点)
- 在构建用户长期记忆画像时,不要只按语义或时间组织;可拆成「事件 / 偏好情感 / 时间」三个视图:事实类用 semantic embedding,偏好类用 affect embedding,时间类强制按 Session→Day→Week→Month 建索引,避免偏好信息混在事件里导致检索错配。
- Entropy-based routing 可作为低成本的 query 级记忆路由:对 query 和各视图 leaf summary 算相似度分布,用归一化熵判断信号集中程度,再分配检索预算。相比 LLM routing 更稳定、开销更低。
- 工程实现上值得复用:内部节点摘要用 pending-change counter + lazy update,减少 LLM 调用;维护阈值用 Otsu + EMA 根据相似度分布自适应校准,避免长期运行后树结构退化;leaf split/merge 是必要维护操作。
- 层级 beam search 中混合 semantic embedding 与 BM25 打分,对品牌名、商品名等 exact term 查询尤其有效,可迁移到电商客服/推荐解释的记忆召回场景。
叙事驱动推荐中基于有向无环图的偏好依赖建模
🧭 叙事驱动推荐 · 偏好依赖DAG ★ 深度解读
Institute of Information Engineering, Chinese Academy of Sciences, Beijing, China · School of Cyber Security, University of Chinese Academy of Sciences, Beijing, China · Faculty of Engineering and IT, The University of Melbourne, Melbourne, Australia · Independent Researcher
提出PDG-F框架,将用户叙述解析为偏好依赖DAG,指导分路径检索与拓扑排序,显著提升开放域推荐召回上限与精度
📌 工作参考价值(4 点)
- 将复杂用户需求拆成偏好依赖DAG,显式建模“哪些条件是修饰哪些基础偏好”,避免扁平关键词匹配导致虚假相关;可迁移到电商长尾query理解、复杂筛选条件结构化。
- 以依赖边为单位改写检索query,分路径召回候选后再做拓扑传导打分,比单次检索或listwise rerank更能扩候选池与提升召回天花板;适合需要开放域检索、大候选池的推荐/搜索场景。
- 拓扑路径评分+对数压缩聚合是确定性打分,不依赖RankGPT等提示词排序,可规避上下文窗口限制、位置偏差和推理延迟,工程上可复制为低延迟重排模块。
- 先扩候选池召回、再优化排序:论文显示候选池扩大后pool recall近翻倍甚至三倍,但ranking gap仍是主要瓶颈;业务上若NDCG提升困难,优先补召回而非只调排序模型。
一种动作多种表达:面向长程智能体的效应边际策略优化
🧭 Agent 强化学习策略优化 ★ 深度解读
Tianjin University · Fudan University · Renmin University of China
提出 EMPO,对执行等价响应共享长度归一化策略比率,消除信用-更新错位,提升 GRPO/GiGPO 长程任务效果和效率
📌 工作参考价值(4 点)
- 在结构化动作的 Agent 训练里(工具调用、搜索词改写、推荐解释生成),可以把执行等价但文本多样的响应分组成 effect cell,共享长度归一化的 likelihood ratio,减少文本措辞差异对策略梯度更新的干扰;GRPO/GiGPO 可直接加这个 ratio sharing,无需额外 critic/rollout。
- 长度归一化要保留:跨不同生成长度的响应直接聚合 full-sequence ratio 会让长响应主导 shared ratio;用 exp(1/T Σ log r_t) 能校准 token 级尺度和 PPO clip。
- 与 credit assignment 解耦:EMPO 只用原始 advantage,不在 advantage 侧做聚合,方便叠加 SALT/GraphGPO 等更精细 credit estimator;clip 下 ratio-sharing 比 advantage-aggregation 更稳,WebShop GiGPO 提升更明显。
- 若线上动作空间是自然语言 query/推荐文案,需要先有 canonical effect parser;无结构化 parser 时 coverage 会低,建议先从可枚举 action 的 agent 场景验证。
资源约束下学习记忆价值:TokenWorth 终身记忆框架
🧭 资源受限终身记忆价值学习 ★ 深度解读
Nanjing University · National Key Laboratory for Novel Software Technology, Nanjing University
提出 TokenWorth,在线学习 query-dependent 记忆价值并统一用于检索与记忆淘汰,在资源受限终身智能体任务中成功率最高且输出 token 最少
📌 工作参考价值(4 点)
- 在电商导购/客服 Agent 的长程记忆或知识库检索中,不要只按 embedding/BM25 相关度取 top-k;可以增加一层轻量 query-dependent 价值打分,融合历史成功率、可靠性、最近使用等特征,用执行结果(成交/点击/解决率)在线更新,统一指导检索和记忆淘汰。TokenWorth 的 linear base scorer + RFM 残差可以在几百条反馈内工作,适合预算敏感场景。
- 用“任务级结果”作为稀疏监督时,目标设为 \(2r-1\) 即可,不必追求反事实归因;这能避免昂贵重执行。对落地来说,可以把成功交互存为候选 memory,把失败反馈用于更新被注入记忆的价值,低成本积累负信号。
- 记忆管理借鉴 admission/evict 策略:库满后,新经验要么足够新颖,要么 probe-averaged worth 显著超过最差/最优记忆才准入,否则可替换低效用近邻;淘汰时按最近一批 probe queries 的平均价值最低者出局。类似做法可用于在线更新推荐 Agent 的 few-shot 示例库或商品卖点素材库。
- 评估记忆/检索模块时,应像该工作一样固定联合预算(输出 token、步数、存储容量、注入长度),并报告“每 token 收益”;否则复杂 reflection/skill 模块容易在业务中被高估。
改进环境无关编码智能体:脚手架的作用
🧭 Agent 脚手架与自主控制权衡
SingularityNET
仅改变指令鼓励报告困难并自动继续,环境无关编码智能体在 ARC-AGI-3 和 AGI Maze 上得分提升,但专用脚手架仍有优势
📌 工作参考价值(5 点)
- 环境无关脚手架与专用控制器解耦:将通用工具(shell、文件系统、上下文管理)与领域特定控制逻辑分离,便于在电商推荐 Agent 中复用通用层,只替换业务控制层,降低跨场景工程成本。
- 引入“报告困难 + 自动继续”机制:在购物助手或搜索 Agent 中,可要求模型在不确定时主动返回控制权,由外部脚本决定重试、换策略或退出,减少死循环和无效调用,提升任务完成率。
- 把重置/重试等关键决策固化到控制器:实验显示脚本化 controller 遵循已有约定能恢复部分专用 agent 优势;在推荐流程中,可将“重置会话、切换召回策略、回退规则”等决策从模型手中剥离,保证行为可预测。
- 警惕教程/Few-shot 过度设计:额外教程经验可能降低性能,提示在构造推荐 Agent 的示例或指令时需做严格消融,避免冗余示范干扰模型。
- 关注 token 成本与性能的权衡:性能提升伴随更高 token 开销,业务中采用此类自主控制机制前应对比推理成本与收益。
自进化编码代理:基于 Harness-Policy 优化
🧭 Agent 自进化与强化学习
Microsoft Research · University of Virginia · Carnegie Mellon University
提出 Self-HPO 框架,交替优化编码代理的 harness 与 policy,实现递归自改进,显著提升编码任务解决率
📌 工作参考价值(4 点)
- 在电商推荐/搜索的 Agent 系统中,不要只微调策略模型或只调整工具/流程(harness),两者应联合迭代优化:让当前策略基于自身失败模式提出新的工具或交互脚手架候选,再用 RL 更新策略,形成闭环。
- 利用策略自身作为 harness proposer 的思路可以迁移到推荐 Agent:当 agent 在特定任务(如 query 改写、商品筛选)上频繁失败时,让其反思失败原因并生成新的工具描述、API 调用模板或搜索流程,然后用这些新 harness 重新训练策略。
- 从训练中收集困难样本(hard tasks)用于下一轮 harness 搜索,可以保证优化方向始终针对策略的当前薄弱点,避免盲目扩展工具集;对推荐系统来说,可借鉴此机制动态聚焦长尾 query 或复杂会话场景。
- 实验显示联合优化 harness 和 policy 的增益超过各自单独优化之和(joint gain > sum of individual gains),这提示在实际业务中,同时调整“模型能力”与“工具/流程”可能带来乘数效应,而非简单叠加。
AlphaBet:面向 LLM 事件预测智能体的强化学习框架
🧭 Agent 强化学习 · 事件预测
Georgia Institute of Technology · Amazon
用多日期事件结果联合监督证据搜索与概率报告,显著降低 Brier 分数并提升准确率
📌 工作参考价值(4 点)
- 多信息状态监督:利用同一事件在不同预测日期提供不同信息状态,让单个已解决事件监督多个决策点。可迁移到用户行为序列建模:对同一用户,在不同交互时刻构造不同上下文,用最终转化/成交结果监督每个时刻的决策,提升样本效率。
- GRPO 归一化陷阱:在需要概率校准的任务(如 CTR/CVR 预估、排序打分)中,如果采用 GRPO 做 RL 训练,注意其 std 归一化可能扭曲 proper scoring rule 下的概率报告,导致校准恶化但 top-1 准确率不变。建议在奖励设计时避免对概率型输出做过度的组内标准化,或分离校准与排序目标。
- Regret 分解诊断:将预测误差分解为证据获取 gap 和概率报告 gap,分别评估信息检索质量和概率校准能力。类似地,在推荐/搜索系统中可把整体损失拆成召回(信息获取)和排序(概率报告)两部分,定位瓶颈后再针对性优化。
- Agentic 三段式结构:search → reason → report 的固定流程可复用于需要动态获取外部信息的交互式推荐或对话搜索场景,让 policy 自主决定何时、如何获取证据再输出概率。
四个 Gemini 4 Argon 智能体合作通关 Minecraft
🧭 多智能体协作长程任务执行 ★ 深度解读
Google DeepMind
四个通用编码智能体通过 Mineflayer 编写 2783 个 JS 程序、共享记忆与聊天协作,27 小时 14 分首次端到端击败末影龙
📌 工作参考价值(4 点)
- 把业务操作抽象为『代码作为动作』:让 LLM 生成可执行脚本或 SQL 直接操作推荐系统内部接口,而不是只调用预定义高层工具;沉淀可复用 helper 函数/工具(本案例 42 个 helper 函数被 1519 个程序引用),对应推荐 Agent 中的特征拼接、召回请求、指标计算等常用代码片段。
- 共享记忆 + 轻量聊天双通道:在 Agent 团队中区分私有状态与共享记忆(坐标、陷阱规则、工具 quirks),关键失败转成规则并广播,适合搜索/推荐多 Agent 分工(召回、排序、文案、风控)传递候选与坑位,避免重复踩坑。
- 独立 Observer 做校验与防作弊:增加一个不参与业务的 Observer Agent,核对成功声明与真实日志/指标,防止虚假报告或规格博弈;在长链路推荐自动化中可让验证 Agent 检查策略是否真的上线、A/B 指标是否显著。
- 上下文压缩时外置关键进展:当 Agent 上下文过长触发 compaction,强制把进行中任务和下一步写入外部记忆,防止丢失跨程序状态;适用于持续数小时的离线调参、自动策略搜索或商品文案批量生成任务。
混合推理智能体:隐空间思考与文本工具调用统一
🧭 混合潜在推理与工具调用的 LLM Agent ★ 深度解读
Stanford University · Together AI · UIUC · Meta
HybridAgent 用轻量 HybridLink 与连续工作记忆交替进行潜在推理和文本工具调用,在 11 个基准上平均提升 10.4% 并大幅降低 token、延迟与成本
📌 工作参考价值(5 点)
- 在搜索/推荐 Agent 中,把长 CoT 的中间推理压缩为 latent steps,仅在需要调用搜索 API、商品过滤工具时切回 text,可大幅降低 token 费用和首字延迟;适用于高并发在线服务。
- 复用 KV cache 作为跨轮工作记忆:多轮搜索/推荐对话中保持工具结果和内部表示,避免重复编码;可参考其 persistent KV accumulation 设计来优化多轮 Agent 服务。
- 后训练要解决 train-inference mismatch:先用 teacher forcing 再 self-conditioned 两遍训练,是让模型学会消费自己 latent 输出的关键;如果业务中做类似隐式状态,这个 trick 值得照搬。
- RL 奖励只给 correctness + format + tool use,不显式控制 latent/text 比例,让模型自适应分配;在电商 Agent 中可避免奖励设计过度约束导致行为退化。
- 可解释性:latent pseudo-text 映射到最近 token,方便监控和 debug;适合需要审计的推荐理由生成/搜索排序 Agent,可保留可解释性同时降本。
将序贯实验设计摊销到推理LLM中
🧭 Agent 自适应信息收集与提问策略训练
University of Cambridge
用信息增益奖励训练LLM进行自适应信息收集,在低计算成本下超越BED基线并跨域迁移
📌 工作参考价值(4 点)
- 对话推荐/澄清场景中,可用信息增益作为 reward 训练 LLM 生成提问,快速锁定用户偏好,减少冗余交互。
- 将实验生成模型与 LLM 自身信念解耦,避免依赖 LLM 可能校准差的后验,用外部模型计算期望信息增益更稳定。
- 摊销策略使推理时无需在线规划或重采样,直接生成下一个问题,显著降低计算成本,适合线上实时对话系统。
- 从简单游戏(Twenty Questions)训练的策略能迁移到临床对话,说明信息收集技能可跨域迁移;电商中可在模拟环境预训练提问策略再迁移到真实对话。
先规划还是先检索?大规模工具发现架构对比研究
🧭 Agent 工具发现架构对比与自适应路由 ★ 深度解读
Apple
在50k API规模下系统对比Retrieve-then-Plan与Plan-then-Retrieve,发现单工具查询RtP占优、多工具查询PtR占优的复杂度交叉
📌 工作参考价值(4 点)
- 复杂度自适应路由:用RtP的top-1检索相似度作为零成本路由信号,高相似度(查询直接包含API名/品牌名)走RtP,低相似度(抽象多步骤意图)走PtR,可节省约36%的discovery调用开销且无检索质量损失。
- 多意图查询分解:在电商/Agent场景中,对于“连衣裙+高跟鞋+包包”这类多面意图query,可以让LLM先生成多个Abstract Tool Stubs(或子意图桩),每个桩独立检索再合并,优于单embedding直接检索。
- Stub hallucination双刃剑管理:简单query包含明确的专有名词或品牌时,不要抽象成generic stub,否则丢失强匹配信号;复杂query则可以利用stub的分解能力。工程上可对stub生成加入专有名词保留策略。
- 检索是Agent行为的上界:实验显示planner轨迹保真度≥96%,即planner几乎只从检索结果中选择tools,所以优化检索架构比优化planner prompt更关键。在大规模工具注册表下应优先投入检索质量。
EAU:环境-智能体-用户共同进化训练用户中心智能体
🧭 用户中心 Agent RL 训练环境协同进化 ★ 深度解读
University of Alberta · National University of Singapore · Kuaishou Technology · Alberta Machine Intelligence Institute (Amii)
提出 EAU 元代理框架,在 RL 训练中在线诊断并修改用户模拟器、环境奖励与超参,实现三者协同进化
📌 工作参考价值(4 点)
- 用户模拟器不稳定是对话式推荐/客服 RL 训练的常见痛点:可借鉴 symbolic user 规则化控制信息揭示,与 LLM 模拟器按比例混合,获得稳定训练信号同时保留自然交互多样性。
- 训练中让 meta-agent(或自动脚本)监控 rollout 日志、检测 deadlock/信息泄露/reward hacking,并热修复奖励规则或环境约束,避免重启;工程上可将 user simulator、reward scale、max steps 等做成可编辑配置,支持在线调整。
- PPO 训练对话 agent 时,critic 和 GAE 只计算 action tokens 的 advantage,防止 observation 文本稀释学习信号;这一实现细节可直接复用于多轮对话策略优化。
- 跨 run 经验池:把每次训练发现的修改和效果记录下来供后续 run 复用,可加速迭代,适合业务中反复训练 agent 的场景。
匹配上下文分组策略优化用于 LLM Agent 训练
🧭 LLM Agent 强化学习 · 长程信用分配 ★ 深度解读
Imperial College London · University of Science and Technology of China · Meituan · Tsinghua University
通过匹配任务进度与状态构造加权动作偏好,提升长程 LLM agent 稀疏回报下的信用分配
📌 工作参考价值(4 点)
- 利用任务规则提取可观测的 rubric progress(如已匹配属性、价格满足、页面状态)作为状态补充,与 state summary 联合定义动作比较上下文,避免因进度差异导致信用错配;在电商导购 Agent 中可借鉴:用已完成步骤(搜索、详情、加购)标注状态,减少不同会话阶段的错误对比。
- 从有限日志或 rollout 数据构造动作偏好时,采用 opposite-fold 交叉标注:一半数据提取候选动作,另一半估计结果证据,降低自相关偏差;适用于从历史会话日志生成离线策略优化信号。
- 根据支持样本数动态缩减偏好权重(n/(n+κ)),防止小样本高方差偏好主导训练;在业务中构造 session-level 偏好对时,可对低支持度的对比自动降权,提高训练稳定性。
- 无需 critic 模型,只附加一个 weighted pairwise objective 即可接入现有 PPO/GRPO 流程,保留原始历史上下文;便于在已有 Agent 训练框架上增量实施。
OnTrack:流式结构感知最优传输用于 LLM Agent 轨迹实时监控与干预
🧭 Agent 实时轨迹监控与干预 ★ 深度解读
Cribl AI Research Lab
将 Agent 执行轨迹建模为增长 DAG,用流式结构感知最优传输与成功参考实时对齐,毫秒级识别失败前兆并提前中止
📌 工作参考价值(4 点)
- 对电商/广告投放 Agent 中的不可逆操作(改价、发券、退款、删记录)增加一个预执行门:用工具 schema 标注可逆性,执行前同步检查必需的前置产物是否存在,并可选地与历史成功轨迹做一次提案对齐;成本远低于 LLM-as-judge,且可实时阻断。
- 监控能力按可用信息分层降级:无参考时仍可检测 loop/stall(重复工具调用但无新信息);有成功轨迹时将轨迹建成 DAG 做结构感知 OT 对齐,能发现因果倒置/幻觉分支;参考轨迹按来源分级(gold/mined 可自动干预,planner 生成只警告),避免误杀。
- 在线部署轨迹对齐时不要每步重算 OT:维护 warm-start coupling,每事件只做一次 Sinkhorn/条件梯度迭代,仅当需要干预时才跑收敛解,可将单步延迟压到 1ms 级;这对实时监控 Agent 链路可复用。
- 干预策略不要用 naive 的首次 flag 即 abort,而应使用 severe flag 密度 + 滚动窗口阈值;论文显示首次 flag 误杀率接近 99%。部署前需要在 held-out 流量上标定阈值,并验证 false stop 率。
更深入地审视 Agentic BBO:面向黑盒优化的 LLM Agent 基准测试
🧭 LLM Agent · 黑盒优化基准测试
State Key Laboratory of Novel Software Technology, Nanjing University · School of Artificial Intelligence, Nanjing University
构建跨领域基准 AgenticBBO-Bench,统一评估 LLM Agent 在黑盒优化中的表现并分析关键设计因素
📌 工作参考价值(4 点)
- 在推荐系统超参数优化(学习率、正则系数、embedding 维度等)或 AutoML 流程中,可让 LLM agent 结合任务语义与历史 trial 结果生成候选配置,再由数值优化器精调,减少早期随机搜索浪费。
- 当黑盒目标包含语义信息(如商品类目、广告文案风格、用户意图)时,将语义先验注入 agent 提示词能稳定提升搜索效率;但避免使用过于具体的先验知识,论文显示具体先验不稳定。
- 线上 A/B 测试或流量有限的调参场景可借鉴 finite-budget 协议:在固定评估次数内对比不同策略,结合 LLM 推理成本选择 Pareto 前沿模型(如 DeepSeek-V4.1-Flash),兼顾性能与成本。
- 设计 agent 系统时不必堆砌额外数值工具,应优先利用任务语义和 agent 生成的优化轨迹;数值优化器可以有效吸收 agent 探索得到的轨迹,二者协同优于单独使用。
基于语料反馈的多步对话查询改写
🧭 对话查询改写 · 检索反馈 ★ 深度解读
INESC-ID · Carnegie Mellon University · Amazon
将对话查询改写重构为多步检索过程,Agent 通过检索反馈依次执行意图消解、词汇改写和伪文档生成,仅用检索奖励训练即超过单步改写基线
📌 工作参考价值(4 点)
- 把 query 改写/扩写从单步改为多步,动作类型化为 intent、rephrase、HyDE、stop,并让后续动作显式看到前一步 top-k 结果。可直接套在电商搜索的 query 改写、广告选词、push 文案生成,尤其适合需要反复试探语料分布的召回场景。
- 不需要人工 rewrite 标注,仅用检索指标(如 rank-based reward、nDCG)做强化学习,就能让策略自动学会“先消歧、再词汇对齐、最后做伪文档匹配”的步骤顺序;可以降低标注成本,并更容易与已有召回器对齐。
- 伪文档动作不是简单复制检索结果,而是吸收已检索 passage 的词表;8-gram 复制检测和 unigram Jaccard 可用于线上安全/去重审计。推理成本要按场景估算,设置 max steps 和早停可控制 token 开销。
- 在 BM25 上训练的改写策略可零样本迁移到 dense retriever(尤其强的 embedding model),意味着可以用廉价稀疏检索离线训练、线上换更强的向量召回,或反向验证鲁棒性。
Memento 3:通过反思式规则簿实现基于模型的递归自我改进
🧭 LLM Agent 通过可执行世界模型递归自改进 ★ 深度解读
University College London · Huawei Noah's Ark Lab, UK · University of Liverpool
让冻结 LLM Agent 用自然语言规则簿+可执行代码作为显式世界模型,通过反思与验证递归自改进,在 ARC-AGI-3 全部 25 个游戏达到人类动作效率天花板
📌 工作参考价值(4 点)
- 在电商搜索推荐 Agent 中,可把「用户意图/商品属性/召回规则」维护成 natural-language rulebook + 可执行代码,作为显式世界模型;用 action-observation 轨迹做 exact replay 验证,只接受能复现历史交互的规则/代码,避免 LLM 幻觉。
- 引入 Git 版本化记忆:每次规则修订/代码编译提交 commit,能 diff、回滚,便于线上排查与衰减实验;相当于把模型的「学习轨迹」变成可审计资产。
- population 扩展:同时维护多个世界模型假设,共享交互证据,用行为等价类采样保证探索多样性;在不确定用户意图或流量分布变化时,可以做多臂/集成式探索,降低单一错误假设的自我确认风险。
- 如果业务中需要 Agent 在无 reward 的交互环境中做事,可直接借鉴「反思→修订规则→编译为代码→验证」loop,把策略改进外置到可执行模型,而不是微调 LLM 参数,适合 rapid iteration 和低成本 rollback。
Agentic AutoRAG:推理驱动 Agent 优化 RAG 流水线
🧭 Agent 驱动 RAG 超参优化 ★ 深度解读
ETH Zurich
用 LLM agent 诊断检索/生成失败并借助模型排行榜与价格先验做 RAG 超参 Pareto 优化,样本和成本效率显著提升
📌 工作参考价值(4 点)
- 失败归因驱动调参:搜索/推荐系统中召回和排序通常是两级漏斗,可以从线上 bad case 中区分“召回没召到”和“排序没排好”,把失败归因作为信号指导下一轮配置调整,比只看整体指标更能定位问题。
- 注入先验知识库跳过劣质配置:将模型能力排名和成本信息预先编码进搜索过程(类似模型的 leaderboard 和定价表),可以大幅减少无效试错,尤其适合成本敏感的在线服务,快速找到性价比高的配置。
- 构建可区分性评测集:用 probe-based selection 筛选出对不同配置敏感的评测样本,避免在大量无区分度样本上浪费评估预算;在推荐/搜索的离线评估中也可以借鉴,聚焦于能区分策略优劣的 query 或 item 集合。
- 输出 Pareto 前沿而非单点:多目标优化(准确率/成本)返回 Pareto 前沿,让业务根据预算和效果要求选择配置,而不是只给一个固定最优解。
从交付到有状态探索:重新思考 Agentic 搜索的索引
🧭 Agentic Search 索引原生交互接口 ★ 深度解读
Yonsei University
提出 INDEXACT 索引原生接口,将候选集细化与源文本检查分离,用可复用状态与统计反馈提升多跳搜索证据发现并降低上下文占用
📌 工作参考价值(4 点)
- 在电商/广告 Agent 搜索中,可借鉴“候选集引用 + 统计反馈”解耦:工具返回 SetRef 和候选集大小/条件命中数,而不是直接返回商品或文档列表,减少模型上下文浪费,尤其适用于多轮筛选和长程导购场景。
- 状态化集合操作(FILTER/INTERSECT/UNION/DIFFERENCE)可复用中间候选集,避免重复检索;电商商品库筛选(类目、品牌、价格区间)天然适合基于倒排索引的布尔/位置条件,工程上可直接基于 Lucene 构建,成本较低且可扩展。
- 精确统计(COUNT_DOCS)优于二进制空/非空:实验显示二进制反馈准确率从 74.0 降至 62.0,精确计数让 Agent 判断条件是否过窄/过宽,辅助其决定继续过滤还是读取证据,可应用于导购 Agent 的条件探索。
- 细粒度读取(AROUND/DOCUMENT/RANGE)按需返回局部上下文,避免自动注入无关文本;Agent 可用 AROUND 定位关键词周边内容验证证据,减少非证据 token 占比,提升长上下文稳定性。
RunningTab:环境侧标签页实现直接工作区交互
🧭 Agent 环境侧任务追踪
KAIST · DeepAuto.ai
为 LLM agent 直接操作工作区文件引入环境侧任务台账,记录需求、已读摘录与未打开候选,防止交付遗漏
📌 工作参考价值(4 点)
- 在多步文档/商品库 agent 任务中,把“需求跟踪”从 prompt/context 外置到环境侧。每个需求一个状态,记录证据来源(例如商品 ID、文档 chunk、文件路径)和未打开的检索候选,避免生成时丢信息。
- 借鉴 finish check:在 LLM agent 输出最终推荐/报告前加一个环境侧校验,若仍有 open requirements 未匹配到证据,强制回补或显式标记放弃,降低漏召回。
- 对 listing 结果中未打开的文件/商品保留候选列表,按与需求的匹配度排序;这类似搜索/推荐中的“曝光未点击”信号,可辅助二次召回和解释。
- 若用 DWI 模式做企业 workspace 的 RAG,可把每次 read 自动抽取 excerpt + provenance 存成环境侧条目,支持 agent 多次引用和审计,不依赖长上下文。
可编程搜索智能体:从查询改写扩展到候选处理与证据呈现
🧭 Agent 搜索接口 · 程序化候选处理与证据呈现 ★ 深度解读
Zhejiang University · Yuanbao Team, Tencent · Peking University
提出 Programmatic Search Agent,以可执行程序单元组织搜索动作,统一候选工作区、原语组合与选择性证据呈现,提升成功率并显著降低 token 消耗
📌 工作参考价值(4 点)
- 把“保留候选”和“呈现证据”解耦:在电商搜索/推荐 Agent 中,让检索/召回结果作为可寻址对象持久化在工作区,LLM 只接收程序选择的精简 notes,不把完整候选全部塞进 prompt。可直接复用上一轮 product pool 做 filter/rerank/extract,减少重复召回和上下文膨胀。
- 用可组合原语代替单一 search(query) 工具:定义 retrieve/filter/rerank/extract/dedupe 及变量引用,让 Agent 生成一个 cell 表达“过滤上一轮池子 → 条件补召 → 合并去重 → 重排 → 抽取证据”的依赖链;避免多轮 tool call,适合多跳商品属性/活动规则验证等场景。
- 审计 evidence-delivery gap:线上 RAG/搜索链路常出现“文档已经进候选但未透出给模型”。可离线回放轨迹,统计支持性证据是否进入 extraction 候选却未返回;对完全遗漏做同页补全的消融,能量化呈现瓶颈并指导界面改造。
- 交互预算下优先做程序化动作:如果决策轮次或成本受限,PSA 在 30-50 decision 预算下比 query agent 成功率高 11-13pp 且 final-step tokens 省 38-41%。在商品搜索助手里,可把多个确定性操作(去重、重排、按条件筛选)合并进一个可执行 cell,只在需要语义判断时回到 LLM。
通过模块化可执行开发原语进行软件工程智能体框架设计
🧭 Agent 多智体协作与模块化架构
University of Illinois Urbana-Champaign · The Pennsylvania State University
提出 Dev-Primitives 与 HERMES,用依赖感知动态激活的模块化 LLM 原语降低长程软件工程任务的上下文爆炸与语义漂移
📌 工作参考价值(4 点)
- 将电商推荐/搜索 Agent 流水线拆分为多个“原语”模块(召回、排序、创意生成、知识检索等),每个模块携带小型 resident LLM,提供自然语言接口与局部自我修改能力,避免单体 Agent 的上下文爆炸。
- 借鉴依赖感知动态激活:根据任务依赖图只唤醒相关模块,例如商品类目变更时仅激活商品理解与召回模块,而非加载完整系统上下文。
- 引入执行证据回流的诊断机制:将线上指标、bad case、日志等作为证据映射到需要修改的具体模块,进行局部微调或策略调整,降低全链路重训练成本。
- 采用异构 LLM 分层:强模型(如 GPT-5 级)负责全局激活与诊断决策,便宜小模型(如 Qwen3-8B)配置在模块内部执行局部修改,在保持效果接近的同时减少推理成本。
AdaStep:智能体强化学习的自适应步级信用加权
🧭 Agentic RL 步级信用加权 ★ 深度解读
Tsinghua University · Nanjing University · Xiaomi Inc.
为GiGPO的步级优势推导逐状态收缩系数,按返回方差中信噪比自适应加权,无额外模型或rollout
📌 工作参考价值(4 点)
- 在GRPO/GiGPO式多步决策训练(如购物Agent、多轮搜索、导购对话)中,不要用固定系数融合全局与局部优势;按同一anchor state分组,用 1 - E_a[Var(R|s,a)] / Var(R|s) 估计逐状态收缩权重,可抑制下游随机噪声对局部信用的污染。
- 该权重只依赖rollout中的count/sum/sum of squares统计量,无额外前向或critic,几乎零成本;可直接嵌入现有优势计算,适合线上训练管道。
- 对不可靠组(单一动作或每动作样本不足)采用fallback w=1,而不是w=0或均值,实验中更优;说明信息不足时不要过度收缩局部信号。
- 若状态空间连续或部分可观测,直接hash锚点状态不可行,需要额外状态嵌入或聚类才能迁移;可优先在离散文本状态(如WebShop、ALFWorld风格任务)中使用。
NeutronGym:面向 LLM Agent 的物理分级中子仪器设计环境
🧭 LLM Agent 科学仪器设计与 RL 训练环境 ★ 深度解读
Oak Ridge National Laboratory
首个可执行中子仪器设计环境,用无 LLM 评判的物理分级奖励训练 8B 模型超越未训练 32B
📌 工作参考价值(4 点)
- 奖励塑形:把最终业务指标拆成可验证的中间层(输入合法→系统可执行→返回结构完整→业务指标达标),每层给部分信用。文中去掉部分信用导致 pass rate 从 76.7% 暴跌至 16.7%,说明密集课程式奖励是 RL 稳定训练的关键,推荐 Agent 做 RL 时不要只用稀疏 GMV/转化作奖励。
- 防 reward hacking 的 no-model 基线:上线前用固定答案、读题规则、跨实例迁移三种 probe 检测任务是否可被捷径破解。对应电商场景应先跑规则基线(热门、复制 prompt 限制、历史均值),避免把“背答案”当成模型能力。
- 工具调用前置校验:22 个工具在调用时即校验组件与参数合法性,把编译错误前置到工具层。Agent 链路中应对每个工具输入做 schema 校验并返回最近合法选项,减少多轮失败和无效探索。
- 不要只用成功样本做 SFT:克隆自己成功轨迹的模仿学习在文中让 pass rate 从 40.3% 跌到 31.3%,而 on-policy RL 训练包含失败轨迹效果更好。推荐 Agent 微调时应保留失败探索轨迹做 RL,避免只喂高转化样本导致分布偏移。
SEER:面向时序预测的自进化事件推理与检索
🧭 自进化 Agent · 事件检索增强时序预测 ★ 深度解读
Google Cloud AI Research · University of Virginia
用预测误差驱动检索记忆与因果知识库更新,显著提升事件驱动时序预测的准确性与可解释性
📌 工作参考价值(4 点)
- 在电商需求预测/广告转化预估中,把动态外部事件(价格调整、大促、供应链、热搜)作为可更新的文本上下文,而不是静态特征;用 retrieval memory 生成搜索 query 扩展候选,再用 selection memory 做噪声过滤,两个组件解耦,避免信息过载。
- 闭环反思机制可用于推荐/搜索的在线学习:将预测残差(销量/CTR 偏差)和推荐理由对比,更新「检索记忆」与「因果规则库」,离线回放、线上冻结,避免直接更新模型参数;尤其适合已有 LLM 推荐理由或文案生成场景。
- 严格时间边界与 fact-check 约束对推荐系统外部特征同样关键,确保只用截至请求时刻的商品新闻/库存/价格,防止特征穿越导致线上翻车。
- 蒸馏 IF-THEN 因果规则不仅提升可解释性,还能让 Agent 主动拒答/过滤高噪声样本(如选择性股票预报、选品),提升精度;电商中可迁移到「是否推荐、推什么品类」的不确定性决策。
因果记忆策略:通过干预检索使记忆效用可识别
🧭 Agent 记忆管理 · 因果识别 ★ 深度解读
Illinois Institute of Technology
提出 CMP,用随机化检索暴露恢复记忆效用的可识别性,解决确定性检索下的 positivity violation
📌 工作参考价值(4 点)
- 在 RAG / 生成式推荐或用户画像记忆系统中,离线估计某个 item 或 memory 的增量价值时,必须警惕召回/检索阶段的 positivity 问题:未被召回的 item 其效用不可识别,导致基于效用的 eviction 或降权策略退化为随机。可借鉴 CMP:保留固定比例曝光槽位,对候选 item/memory 以已知 propensity 随机采样,强制产生 support。
- 采用平衡分配(balanced assignment)替代独立随机:固定每个 item 的曝光次数,propensity 精确已知,方差可解析计算;估计器用 self-normalized IPW(等价于 arm 均值差),便于工程实现。
- 对不可逆操作(如删除记忆、商品永久下架、从长期候选池剔除)采用单边弃权(one-sided abstention):Bayes 最优规则要求只有当估计效用显著低于负阈值时才执行不可逆操作,避免误删高价值 item。
- 识别出 utility 不等于能做出 retention 决策:per-query utility 在特定 query 上 AUC 很高,但跨 query 聚合困难,无法用单个标量代表长期价值。这提示在推荐/搜索中,item 价值随上下文变化,需要 query-conditioned 模型而非全局打分,且保留/淘汰决策需考虑未来查询分布的不确定性。
幻境环境:在虚构世界中训练LLM智能体
🧭 规则生成合成环境训练搜索Agent ★ 深度解读
Cornell University · Stanford University
用零成本规则生成的虚构多跳问答环境做RL训练,得到可迁移到真实多跳基准的LLM搜索agent
📌 工作参考价值(4 点)
- 可构建规则生成的“虚拟商品/用户图谱”环境,以零边际成本生成多跳query-answer对,用于RL训练搜索/推荐agent,避免依赖LLM生成数据带来的幻觉和污染。
- 用纯线性跳数(hop)作为难度主轴,优先训练问题分解与逐跳检索;comparison类题型可按需混入50%以定向补强比较推理,不要盲目加constraints防止模型学会逐字query捷径。
- 真实业务数据有知识时效和memorization shortcut问题,可把规则环境作为跨域/新库存的鲁棒训练补充,尤其当线上query超出训练分布时;关闭knowledge advantage,让模型学通用搜索技能。
- 监控agent搜索调用次数随问题难度的缩放行为,可以作为训练质量指标;Qwen2.5在虚构环境交互后涌现线性search scaling,提示可将其作为模型是否掌握自适应检索预算的信号。
AdaM-Rec:面向多模态推荐的自适应模态路由框架
🧭 多模态推荐 · 自适应模态路由 ★ 深度解读
University of Queensland · Alibaba Group · Southeast University · Adelaide University
AdaM-Rec 用 LLM 智能体通过历史正样本伪查询做代理召回评估,动态路由文本与多模态召回预算
📌 工作参考价值(4 点)
- 对多路召回系统,可以用“历史正样本伪查询”做在线代理评估:为每个 query 生成与当前粒度一致、指向用户已购/点击商品的伪 query,在小候选池上比较文本向量和多模态向量的命中 rank,据此动态分配召回 quota,代替固定融合权重。
- 将 LLM 作为策略控制器输出路由参数(分支权重和总预算),并结合相似用户的历史参数做 warm start;实验显示小预算时聚焦单一优势模态优于均分,可指导长尾流量召回策略。
- 排序前按召回来源做特征裁剪:对文本召回候选过滤视觉属性,减少不相关视觉信号对相关性打分的干扰,尤其适合功能/规格型 query。
- 工程上注意开销:agentic 路由增加推理成本,但可通过轻量文本编码器(如 0.6B)和控制迭代步数来平衡,多模态编码器容量对效果更敏感。
跟随实体:面向 Agentic Search 的语料地图
🧭 Agent 搜索 · 实体导航层 ★ 深度解读
KAIST · Microsoft
以跨文档实体为锚点构建离线可复用导航层,提升多文档 Agent 搜索证据发现并降低 token 消耗
📌 工作参考价值(4 点)
- 把经常跨文档出现的业务实体(商品、活动、商家、项目)离线解析成 Entity Page,作为 agent 可读文件挂到原语料旁;查询时让 agent 从实体页跳到相关文档,而不是每次都重新 grep/搜索,能稳定节省 34%–57% token。
- 构建实体-文档二部图,而不是树形分类;同一文档可挂在多个实体下,避免 Corpus2Skill 这类层次聚类把相关证据拆散的问题,电商知识库中「活动/商品/商家」多对多关联尤其适合。
- 离线构建可用 GLinker/GLiNER 等无 LLM 方案替代,成本低且可跨 LLM 复用;新增文档时增量更新 registry 并只重渲染受影响 Entity Page,适合持续增长的电商文档/工单/商品库。
- Entity Page 将事实逐条归因到源文档,agent 读取页面后能沿链接打开源文档验证,减少幻觉;也可作为权限/隐私过滤边界,按权限生成分离 map。
PEAR:面向工业搜索系统的渐进式证据驱动自动研究框架
🧭 Agent 驱动的搜索策略自动优化 ★ 深度解读
Global E-Commerce Agentic Search Team
提出 PEAR 框架,以证据驱动研究状态和置信门控多级验证阶梯,在电商搜索中显著提升订单指标
📌 工作参考价值(4 点)
- 多级验证阶梯 + 统一置信区间晋升规则:把候选评估拆成 Offline Replay / Shadow-Traffic / Rapid Online / Decision-Grade 四级,每级都输出效应量和置信区间,只有 CI 下界>0 才 PROMOTE,CI 包含 0 保留,CI 上界<0 停止。这个规则能避免在非平稳电商流量下用单点分数“keep-if-better”导致的瞬时增益误判,可直接复用到排序策略参数、召回权重、重排规则的自动化搜索。
- 独立研究状态 + 上下文证据积累:每个策略任务维护独立的假设、候选空间、证据记录,通过 Plan–Execute–Evaluate–Update 循环持续修订假设。在电商场景中,同一策略在不同时间、不同流量组成下效果可能完全不同,记录实验上下文并让 Agent 基于 CI 和假设得分(Support - Refute)做候选生成,比单纯保留历史最优更可靠。
- 代理指标选择要优先对齐订单等业务目标:论文发现代理模型对订单的聚合相对误差最小(-3.49%),点击(-16.02%)和 GMV(-18.23%)误差较大。在构建 Agent 自动化优化链路时,若要用代理模型做低层筛选,应优先选择预测误差小、与最终业务指标对齐的代理信号,而不是盲目用 CTR。
- 低层广筛 + 高层精评,严格控制在线实验成本:L2 阶段的 promotion rate 只有 1.5%~7.14%,意味着大部分候选在影子流量阶段就被过滤掉,只有少数进入真实在线实验。工程上可以借鉴这种漏斗式评估,把昂贵且有风险的在线 A/B 留给统计上显著的正效应候选,同时保留大规模探索能力。
TabFM-Auto:LLM Agent 自进化表格基础模型流水线
🧭 LLM Agent 驱动表格数据流水线自动进化 ★ 深度解读
Google Research · Google DeepMind · University of Southern California · Harvard University · University of Texas at Austin
将 LLM 编码代理与冻结表格基础模型结合,只进化数据流水线,拿下 TabArena 与 MLE-Bench-Tabular 榜首
📌 工作参考价值(4 点)
- 冻结主模型、只让 LLM agent 搜数据/特征/采样/后处理:在推荐/广告 CTR 模型上,可冻结已训练好的排序/召回模型,让 agent 围绕它生成特征工程、样本选择、校准代码,用离线验证集反馈,避免边改模型结构边训练的噪声。
- 从列名/元数据自动生成领域特征:电商表格中大量业务字段(价格、类目、用户/商品 ID),LLM 可生成 price_ratio、category co-occurrence、user-item graph degree 等显式特征,免去模型从原始数值中隐式推断。
- 上下文采样 + 先验校准应对不平衡:类似论文中对少数类过采样多视图并在 log-odds 空间做先验修正,适合电商点击/转化率预估中的正负样本不平衡、稀有类目。
- 严格测试隔离与防泄漏:搜索只在单 fold 训练集内部 3 折 CV,沙箱禁网且不挂测试集;分类数据 shuffle 防止行号/排序泄漏。这些工程细节可直接照搬进推荐模型自动调参/特征搜索 pipeline。
通过跨 harness 适配的检索增强技能优化
🧭 Agent 技能优化 · 跨 harness 检索适配 ★ 深度解读
Korea University · KAIST · Meta AI
检索外部技能语料并用 Cross-Harness Adaptation 适配到目标任务与执行环境,同时强化技能初始化和失败驱动更新
📌 工作参考价值(5 点)
- 构建内部“技能/策略语料库”(如大促玩法 SOP、不同平台投放经验、query 改写案例),按 heading 切成段落级索引;检索时用 BM25 返回 top-K=5,避免整篇文档带来的无关信息,K 再增大会引入噪声。
- 借鉴 Cross-Harness Adaptation:把外部知识/代码片段转成目标系统的对象、命令、单位,做三件事——删 source-specific 名词、只保留当前 requirement 相关、工具参数行为必须被目标 harness 描述确认;这在多平台/多渠道(Web vs App vs 小程序、不同广告 API)迁移 SOP 时尤其实用。
- 用 RASI 做零 rollout 冷启动:新任务或新 agent 先由 LLM 从 task/harness 描述生成 requirement-query 对,检索并适配成 lessons 后直接合成 skill,避免昂贵试错;实验显示即使只开放 1% 语料也有明显收益。
- 更新阶段不要只依赖 rollout 文本梯度:从失败轨迹反推“缺失知识”并生成检索 query,用外部知识补充参数知识,候选 skill 必须过验证集才接受;在成本上可做到与 TextGrad/WikiSkill 同等 rollout 数,甚至 API 成本更低。
- 生产落地注意 benchmark 泄漏:按仓库级别把已知任务/数据集相关技能加入 blocklist,防止检索到作弊或过拟合片段。
PriceBench:LLM 预订智能体价格、质量与品牌偏好诊断基准
🧭 LLM 采购智能体偏好诊断
London School of Economics and Political Science
提出 PriceBench,用 logit 选择模型从酒店预订选择中恢复 28 个 LLM 的价格质量品牌偏好,发现高能力模型偏好更强更一致
📌 工作参考价值(4 点)
- 在把 LLM 用作导购、选品或下单代理前,先诊断其隐式偏好:不要只看任务完成率,要在满足约束的候选中看它实际选了哪个;可用 logit 离散选择模型从历史对话或推荐日志中恢复价格、质量、品牌的权重。
- 弱模型容易受 listing order 影响或锁定单一选项,工程上避免直接让弱模型做最终购买决策;要么换更强模型,要么在 prompt 中显式注入价格约束并随机化候选顺序,降低位置偏差。
- 同一模型系列内价格敏感度差异可能超过一个数量级,上线代理或做 A/B 时需按具体模型版本/checkpoint 测量,不能沿用“同系列偏好差不多”的假设。
- 对 LLM 生成推荐/购物结果,把平均客单价或 booked price 漂移纳入离线评估;论文中 $247 到 $393 的差异意味着模型选择会直接改变收入与成本,不能只做事后观察。
ExplorationBench:在可验证异世界中评测 AI 系统的探索能力
🧭 LLM Agent 探索能力基准测评
Fudan University · Tencent · Tsinghua University
构建规则可执行且与预训练知识冲突的异世界沙盒,量化 AI 系统通过探索获取并应用全新规则的能力
📌 工作参考价值(4 点)
- 构建规则可替换的沙盒环境来评测 Agent 的探索与适应能力:在电商搜索推荐场景中,可以设计一个规则与线上统计常识冲突的模拟环境(例如排序收益反转、用户行为分布突变),让 LLM Agent 通过有限次交互探索新规则,而不是直接复用历史知识或预训练记忆。
- 提供有缺陷的手册 / 文档作为初始信息:实际业务中的文档、API 说明、运营规则经常过时或部分错误,可借鉴论文做法,用带噪声的初始手册训练或评测 Agent 的纠错与假设验证能力,从而提升对突发规则变更的鲁棒性。
- 关注探索轨迹的非单调性:论文发现持续探索会 stall 或 reverse 先前收益,提示我们在 Agent 流程中需要加入 checkpoint 或最优轨迹回滚机制,避免在长链路任务中因过度探索而丢失已学到的高价值策略。
- 用可执行规则替代人工标注来做自动化评测:将搜索/推荐策略验证转化为可编程的 sandbox,每个动作都可精确判断对错,能低成本生成大规模评测集,适合对 LLM Agent 做回归测试和版本对比。
PUBG Ally:作为 AI 队友的对话式具身智能体
🧭 具身智能体实时协作与语音交互
PUBG
提出 PUBG 语音队友 Ally,结合 LLM 智能体与实时控制层,基于 39k 真实对局数据训练并在 141 国上线,正面评价超负面 25.1 个百分点
📌 工作参考价值(4 点)
- 分层控制架构:LLM 负责高层意图和决策,将实时敏感的执行下放到低延迟控制层。电商导购/客服 Agent 可借鉴:让 LLM 做意图识别、策略选择、话术生成,而将库存查询、推荐排序等高频操作交给轻量服务,以降低端到端延迟并保证一致性。
- 真实交互数据闭环与偏好校准:利用近 39k 真实用户会话收集“上下文-决策-反馈”数据,并发现离线评测与玩家偏好存在差距后迭代评估标准。推荐/搜索系统可引入类似机制,通过真实用户偏好比较(如 pairwise 反馈)校准离线指标,定期挖掘“离线高、线上差”的 case。
- 模型压缩与上下文压缩:针对实时服务,采用模型压缩、上下文压缩、记忆脱敏和运行时护栏。移动端或边端部署的推荐 Agent、语音导购可借鉴,对用户历史上下文做摘要压缩,同时脱敏敏感信息,并设置安全 guardrails 防止不当输出。
- 语音/动作同步:保持语言输出与系统行为一致(Ally 说什么就做什么),避免用户信任崩坏。电商 Agent 在生成推荐理由或承诺时,需确保底层系统能实际执行(如优惠、到货通知),否则会严重损害体验。
测量的是服务栈而非模型:本地工具调用评估的隐藏混淆
🧭 LLM 评估 · Tool-Use 服务栈混淆
Northeastern University, Seattle
本地 Tool-Use 评估中 serving stack 的协议差异会系统性污染模型工具调用保真度测量结果
📌 工作参考价值(4 点)
- 在自建 LLM Agent 评估时,把 serving 层返回码、rejection、retry exhaustion 作为结构化字段写入轨迹;否则模型未调用与 HTTP 400/重试耗尽会被混为 0% 工具调用保真度。
- 对齐不同推理栈(Ollama/llama.cpp/vLLM/SGLang)对 tools= 请求的处理:先用同一批请求做 cross-stack probe,确认返回的是 native tool_calls 还是文本,避免把服务栈行为当成模型差异。
- 对需要文本工具列表的模型,采用“保留 native 通道 + 额外文本 tool list”的协议可能恢复测量保真度;不要对所有模型强制统一 text protocol,Llama-3.2 等原生工具调用模型反而会下降。
- 指标口径避免 turn-pooled 与 per-instance 混用,二者可差约 55 个点;constrained decoding 能压缩解析失败,但要监控非终止与长尾延迟。
Jev-Mem:System-One 控制的 Agentic Memory 实现高效 AI Agent
🧭 Agent 记忆系统效率与效果优化 ★ 深度解读
Department of Computer Science, The University of Texas at Dallas
提出将高频记忆控制与生成式推理分离的 System-One/Two 记忆架构,在 LoCoMo 上以 6.6 倍构建提速和 36.7% 延迟下降取得最佳回答质量
📌 工作参考价值(4 点)
- 在电商/推荐 Agent 的用户记忆与客服长期记忆中,把“该不该存/归什么类/和哪条历史相关/该不该停”等高频小决策从 LLM 生成中拆出,换成轻量分类器、规则或小模型;LLM 只做最终答案/推荐理由合成,可大幅降低 Token 成本与延迟。
- 多关系图 memory(semantic/temporal/causal/entity)对用户行为、商品浏览、事件关系有直接迁移价值:保留原始行为不做过早过滤,用确定性索引先召回候选再让轻量模型判断关系,工程上可避免长对话场景 O(N) 全量 LLM 比较。
- 检索改成闭环:根据 query 动态给不同关系视图分配预算,并在证据充分或边际收益低时提前停止。适合搜索/推荐 Agent 在多轮交互中控制上下文成本,避免无关信息稀释推荐理由。
- 可参考其“写读同一控制平面”思想:在用户画像/会话状态记忆中,构建与检索使用同一套关系判断模块,避免两套逻辑不一致;对成本敏感的场景尤其值得落地。
FootprintRAG:科学文献探索中RAG证据上下文精炼的可视化分析系统
🧭 RAG 证据上下文可视化精炼
Computer Network Information Center, Chinese Academy of Sciences · University of Chinese Academy of Sciences · Hangzhou Institute for Advanced Study, UCAS · University of Technology Sydney · Western Sydney University
将RAG证据上下文显式化为可检查、可修订对象,通过LLM-agent与可视化视图支持多轮检索、证据精炼与溯源摘要生成
📌 工作参考价值(4 点)
- 在商品知识库问答或客服 RAG 场景,把检索到的证据片段(商品属性、用户评论、政策条款)显式呈现为可勾选/排除的候选列表,生成前允许业务人员修正证据上下文,减少隐式过滤导致的错误答案。
- 引入多轮检索轨迹可视化:记录每轮 query 变体、召回、重排和采纳/丢弃状态,便于调试 RAG pipeline,定位漏召回或误排序原因,类似检索评估矩阵。
- 用 LLM-agent 自动化证据评估与补充候选生成:对每条证据打分并基于语料级证据空间推荐 ERS 排名补充候选,可迁移到广告文案生成中的素材/卖点证据挖掘与推荐。
- 摘要生成支持 provenance-aware,每条结论可追溯到来源证据单元,适用于电商导购内容合成或商品推荐理由解释,增强可信度与合规性。
经验驱动策略精化的自进化LLM交易智能体
🧭 Agent 自进化策略优化
KAIST · DeepAuto.ai
将Agent的system prompt视为文本参数化策略,由策略Agent基于决策轨迹和组合反馈迭代重写
📌 工作参考价值(3 点)
- 将Agent的system prompt / 工具调用策略当作可优化的“文本参数”,通过定期基于历史交互trace和业务反馈(如转化率、收益)让策略Agent重写prompt,无需微调LLM即可实现策略迭代。适用于搜索/推荐中的Agent决策流程优化。
- 借鉴其批量更新思想:在每轮更新间隔内收集决策动作和实际奖励,然后离线让策略Agent修订系统提示,再用于下一批决策。这样可形成闭环,尤其在非平稳的电商/广告环境中,定期调整信息获取和排序逻辑。
- 行为分析可作为诊断工具:通过比较旧/新策略下的动作分布(如工具调用类型、代码执行比例)和归因分析(策略改动→动作变动→回报变动),找出哪些流程调整真正有效,可迁移到推荐Agent的可解释性分析。
Embodied-BenchForge:闭环Agent工作流构建具身评测基准
🧭 Agent工作流 · 基准构建自动验证修复
QiYuan Lab · University of Electronic Science and Technology of China · Beijing University of Posts and Telecommunications · Northeastern University · Beihang University
提出闭环基准合成框架,用产物依赖图与需求引导验证修复,自动构建可区分的具身评测基准
📌 工作参考价值(4 点)
- 产物依赖图 + 局部重执行:在长链路生成流水线(如评测数据合成、商品描述多步生成)中维护中间产物依赖,失败时根据 provenance 只重跑受影响节点,避免全量重建,显著节省成本与时间。
- 需求引导的逐级验证契约:为每个中间产物定义可检查的 schema/领域约束,在传入下游前自动验证,防止局部错误传播。可以直接迁移到 RAG 的文档切分、query 改写、素材标注等环节。
- 可复用技能编排:把类型化技能组合成可执行工作流,跨任务复用同一技能库,适合搭建电商场景下的 Agent 工作流(如选品-文案-投放链路),降低重复开发。
- 闭环验证-修复循环:生成后自动评估并触发修复,能提升生成式推荐中 Semantic ID 或商品描述等内容的可用率,可作为数据质量飞轮。
无大纲学习:任务无关的环境预处理
🧭 Agent 任务无关环境预处理 ★ 深度解读
Scale AI · University of Maryland, College Park
提出任务无关环境预处理框架,meta-agent 在无下游任务信息下探索环境生成可复用工件,5/6 基准优于固定流程
📌 工作参考价值(4 点)
- 面对新业务环境(新商品库、新 API 工具、新文档系统)时,可在离线 stage 用 meta-agent 做环境探索与预处理,生成索引、技能手册或 playbook,而不必等具体任务/用户 query 分布确定;把线上多次采样成本转移到一次性研究阶段。
- 对异构工具/语料不必固守单一预处理策略:维护一个 workflow archive(包含索引构建、合成实践、技能抽取等),让 meta-agent 根据环境特征自行组合;例如大语料检索用固定 CORPUS2SKILL 管线,工具环境用 PREPING 类合成实践。
- 不要迷信研究预算或探索广度:预算增加不总能提升下游 reward,更广泛文件探索未必有效;应监控 artifacts 对下游任务的边际收益,并注意工件可能误导 solver(如引导到不完整索引),需要验证与回滚机制。
- 在推荐/搜索冷启动场景下可借鉴 task-agnostic 预处理:无历史行为或标注时,先对环境/语料/工具生成通用辅助(如商品知识图谱、导航树、脚本),待有反馈后再做 task-informed 微调,形成两级适应。
面向 LLM Agent 的过程图:自演化的执行结构
🧭 Agent 过程性记忆与自演化图结构 ★ 深度解读
Google · Georgia Institute of Technology · Peking University
用可编辑的 (procedure, relation, procedure) 图组织过程性知识,在线按当前节点生成局部引导,离线通过验证门控自演化图结构
📌 工作参考价值(4 点)
- 在搜索/推荐 Agent 工作流中,把工具或技能(query 改写、召回、精排、解释、政策校验)抽象为过程图节点,边属性写 condition/guidance/pitfalls;推理时用最近一次 tool call 做 exact match 定位,取 2-hop 邻域生成 guidance,比注入全图省 token 且效果更好。
- 离线自演化:用成功/失败轨迹对比让 LLM refiner 提出增删节点/边、改属性,必须通过 held-out validation 不降分才提交;保留 rejection memory,避免重复无效修改。可迁移到自动优化广告投放、选品、客服 Agent 的流程。
- 图结构在权重外,便于审计、回滚和人工修正,适合电商合规/风控;不需要 fine-tune 模型。
- 注意效率:localized generative guidance 在长轨迹上能减少 solver steps,但总 token 仍可能上升,需缓存或选择性生成。
NeoHorse-1:路由 Harness 驱动的 Agentic 后训练与递归自改进
🧭 Agent 后训练 · 路由驱动的课程与蒸馏
TokenRhythm
通过路由 harness 记录能力需求并构建三阶段课程与蒸馏,实现 4B/9B agent 模型的递归自改进后训练闭环
📌 工作参考价值(4 点)
- 利用线上多模型路由日志自动构建训练集:记录每次请求的预测能力需求、选择的模型档位和交互轨迹,形成天然的难度标签;电商/广告场景中可在低成本小模型与大模型路由架构上持续积累数据,定向提升小模型能力。
- 三阶段课程由路由信号组织,先易后难进行 SFT,再衔接 on-policy distillation;相比直接 SFT,让学生模型在自身生成分布上被教师纠正,可稳定提升 agent 工具调用和推理一致性,适合推荐/搜索 agent 的复杂指令跟随。
- 数据准入的多维评估(结构校验 + 六维语义评分 + 子场景标注)值得借鉴:在构建推荐/搜索 agent 的交互数据时,过滤低质量轨迹,避免污染训练集,尤其对工具调用格式和上下文依赖敏感的场景。
- 建立 evaluation→mixture allocation 的闭环:用评测反馈动态调整下一轮训练数据的任务配比,适合多任务持续迭代的电商 Agent 平台(如商品推荐、广告文案、客服工具混合)。
PlannerForge:自动驾驶运动规划场景测试的LLM Agent框架
🧭 LLM Agent 自动化测试流水线
Technical University of Munich · Munich Institute of Robotics and Machine Intelligence (MIRMI) · University College London
用统一LLM Agent框架覆盖自动驾驶场景测试全流程,开源中小模型媲美商业API
📌 工作参考价值(4 点)
- LLM Agent 编排模块化 pipeline:把场景生成、检索、修改、执行、评估统一成可链式调用的 agent 任务。电商/搜索推荐中可借鉴类似框架,将 query 推荐、召回、排序、评估串成端到端 LLM 工作流,减少碎片化工具切换。
- 开源中小模型足够匹配商业 API:论文显示 20–35B 开源模型在多数任务上媲美商业 API。对成本敏感的业务,可以用 Qwen 等开源模型替换 GPT-4 类接口,经过 prompt 调优后接近商业效果,大幅降低推理成本。
- 自动 cost-tuning 提升下游指标:LLM 自动调整模块参数,将规划器成功率从 50.4% 提升到 70.2%、碰撞率从 19.0% 降至 8.4%,无需领域微调。推荐系统中可让 LLM 自动调 rerank 权重、召回阈值等,用在线指标反馈做闭环优化。
- 模块路由(Module Routing):用 LLM 根据输入场景选择最合适的下游模块/模型。在推荐架构中可实现动态路由,例如不同用户群体或 query 类型分发到不同精排模型,提升整体效果与资源利用率。
演化式模型与领域特定安全 Harness 框架
🧭 Agent 安全防御与自动化 harness 合成
Johns Hopkins University · University of Wisconsin–Madison · NVIDIA · University of Illinois Urbana–Champaign · UC Berkeley
自动合成针对冻结模型与目标领域的安全 harness,联合搜索自然语言策略和可执行代码逻辑,在保障效用下大幅降低攻击成功率
📌 工作参考价值(4 点)
- 在推荐/搜索 Agent 中增加独立安全层:将安全 harness 与推荐逻辑解耦,自动生成针对特定模型和业务域的策略与代码,避免手工编写规则,可快速适配不同推荐模型(如 LLM 推荐生成式商品描述)。
- 模型-领域特定的安全阈值自动调优:借鉴其联合搜索策略,为每个推荐模型和场景(如电商导购、广告文案生成)自动发现最优的安全约束强度,平衡过度拦截与安全漏洞,节省人工调优成本。
- 将领域合规要求嵌入可执行代码:类似地提取电商/广告领域的业务安全关系(如广告法违禁词、价格合规),编译为可执行的过滤逻辑,并集成到 Agent 的动作执行前检查中。
- 对抗性评估与在线迭代:在发布推荐 Agent 前,使用类似 PAIR 的自适应攻击模拟恶意输入或提示注入,评估防御有效性;将对抗审查作为持续集成的一部分,动态更新安全 harness。
让 LLM 在会议中拥有情境意识并替参与者发言
🧭 LLM Agent 在多方对话中的发言时机决策
University of Göttingen, Germany
提出 CAPA 架构,通过显式会议状态预测与校准,将缺席者发言沉默率从 51.4% 降至 2.5%
📌 工作参考价值(4 点)
- 在需要 LLM 实时判断“是否介入”的场景(客服对话、直播场控、主动推荐弹窗)中,显式维护结构化状态(立场、覆盖、发言权)比只堆原始上下文更能消除漏判;可借鉴 Perceiver 将历史对话压缩成可更新的状态表示。
- 将决策链拆成 Predictor→Controller→Generator,先预测下一 turn,再决定是否说话、说什么、怎么说;这种解耦便于在业务中单独调优“时机判断”和“内容生成”,也便于归因定位残差。
- 用真实下一 turn 对预测和动作做在线校准,形成 Recalibrator 闭环;在推荐或对话 Agent 中可引入类似机制,让系统根据后续用户反馈实时修正决策状态,而非静态离线训练。
- 评估协议值得复用:围绕实际语义单元(idea units)从 whether/when/what 三维打分,并用 schema 约束的 LLM judge 自动评估,Kappa=0.71 说明可替代部分人工标注;对生成式推荐/对话策略的离线评估尤其有用。
CORAL:面向生产推荐系统的 LLM 原生闭环优化框架
🧭 Agent 闭环优化推荐系统控制面 ★ 深度解读
Meta AI
用 LLM agent 闭环优化推荐系统控制面资源配置,以极低成本实现在线 A/B 验证的 engagement 提升或成本节省
📌 工作参考价值(4 点)
- 可把 LLM agent 用于推荐系统资源/预算分配的闭环优化(召回源预算、流量分群 serving 档位、广告库存分配等);关键是不让 LLM 直接改线上参数,而是让它输出结构化 proposal,由确定性约束优化器投影到可行集。
- 架构上模仿 observation / assessment / decision 三层记忆,保存最近 3 个 cycle 的原始指标、模型判断和决策结果,让 agent in-context 根据自己上次动作的效果调整,不用 retrain;对非平稳线上环境有效。
- 固定决策 cadence(如 3 天)并用 A/B 实验测每个配置的增量,把测量结果写回 memory 作为 attribution,避免噪声误导;初期可先在低风险控制面(预算 multiplier、serving tier)小步跑,再逐步扩大自主范围。
- 成本极低:每个 cycle 仅十几次 LLM 调用、几千 token,与用户量无关,适合亿级流量的电商/广告推荐;如果业务有硬资源约束,优先把 LLM agent 用于配置优化而不是 per-item 生成。
TRIAGE:三级路由与轨迹复用实现高效 Agent 执行
🧭 LLM Agent 轨迹复用与三级路由降本 ★ 深度解读
China Telecom Cloud, Beijing, China
用历史执行轨迹做语义路由与技能化复用,在 1007 条查询上降低 62.3% token 消耗
📌 工作参考价值(4 点)
- 把高频参数化查询做成 0 token 的 Skill 复用:对电商 BI、客服诊断、广告投放 Agent 里反复出现的“改参数不换结构”查询,可以用 embedding 阈值 + 参数抽取 + 模板替换,绕过 LLM 生成 SQL/工具调用;本质是带参数替换的语义 cache,比 GPTCache 更细粒度。
- 路由策略要看 overhead / execution cost 比值:文中 ablation 很直接:LLM router 每条约 224 token 的路由开销,导致整体反而 -37.3% savings;在单条 SQL 生成成本约 197 token 时,zero-cost 阈值路由完胜。迁移到业务时,若单次 Agent 任务成本很高(长上下文、多步工具编排),才值得上 LLM router;低成本的 query 类场景千万不要用 LLM 做路由。
- 用 LLM feedback 自举参数抽取规则:L2 参数替换时,遇到轻量归一化无法解释的差异,再调一次 LLM 判定是否是参数变化,并把结果注册成正则规则;后续同类参数可以 0 token 处理。这个机制很适合商品名、类目、时间窗口等高频可变参数的电商 query。
- 在线冷启动路径可以直接抄:无预训练、无人工标注,前 100 条 query 内 L2 命中从 0 到 57%;适合内部 dashboard、监控告警、运营取数 Agent 上线。但要注意文中提到的 error propagation,自动提取的 Skill 需要加正确性校验或执行后验证,不能直接推全量。
RedEvoAgent:经验驱动技能演化的自动红队智能体
🧭 LLM Agent 技能进化与安全红队 ★ 深度解读
City University of Hong Kong · Shenzhen MSU-BIT University
将攻击轨迹蒸馏为可读技能,并用验证棘轮做候选更新,提升黑盒 Agent 攻击效果与工具效率
📌 工作参考价值(4 点)
- 对商品推荐/搜索 Agent 的策略迭代:把召回-排序-重排或 query 改写策略写成可读 skill 文档,候选版本只有验证集或小流量指标严格优于当前策略才上线;失败候选进入 rejection context,减少反复生成无效配置。
- 在多工具 Agent 链路中做“决定性工具归因”:不按工具出现频率记功,而把成功案例归因到直接带来正向反馈的工具/动作,可避免策略坍缩到高频但低效的工具。
- 工具/策略先做隔离评分画像:对候选工具在固定数据上单独评估,再让 LLM 结合轨迹总结优先级;比检索全量历史轨迹上下文成本更低、可读性更好。
- 可零样本复用与安全测试:在一个模型/执行环境上进化出的 skill 可迁移到其他模型/harness,适合多租户电商 Agent 的对抗测试、鲁棒性评估;工具调用次数也可作为效率指标纳入评估。
校准到知而不校准到行:伪造证据使 LLM Agent 承诺不可知问题
🧭 LLM Agent 决策校准与 SFT 修复
Independent Researcher
专业外观的市场面板大幅提升 LLM Agent 对不可预测问题的承诺率,定位为行动门控失效且可通过 SFT 修复
📌 工作参考价值(4 点)
- 在电商/广告的 LLM Agent 决策链路中,对“不可预测”类问题(如未来销量、市场波动)增加显式门控:在行动前先让模型或一个小型分类器判断问题是否可答,避免被权威格式的不相关证据诱发错误承诺。
- 对输入给 LLM 的指标/面板等证据进行可信度过滤:即使数据是伪造的,专业外观仍会显著提升模型承诺率,因此需验证数据来源,或通过 prompt 强调“仅使用问题本身信息,忽略装饰性面板”。
- 可以使用少量合成数据 SFT 一个小模型(如 3B)来训练“拒绝不可知”的门控,实验显示 540 个案例即可将承诺率降至 0 并跨领域迁移,适合业务中快速构建风险控制模块。
- 注意响应格式:为模型保留推理空间(如允许 chain-of-thought)是门控生效的关键,强制输出决策的刚性格式会导致模型自信犯错,因此在设计 agent prompt 时避免直接要求“是/否”而不给推理步骤。
SkillForge:通过可验证技能演化训练强化学习智能体
🧭 Agent 技能演化与 RL 训练优化 ★ 深度解读
AMAP, Alibaba Group
让 LLM Agent 通过显式技能调用和基于证据的验证,在 RL 训练中持续积累并修正可复用技能
📌 工作参考价值(4 点)
- 在电商导购/客服 Agent 中,可将经验从原始日志蒸馏成结构化技能(title/intent/principle/when to apply),检索时只注入 title+intent 的紧凑目录,调用后展开完整内容,能控制 prompt 长度与 KV cache,适合技能库/策略库持续膨胀的场景。
- 借鉴 evidence-based verification:对每条技能/策略模板维护 EMA 成功率与调用次数,计算 underperformance score,优先让 LLM 反思和改写高失败率策略;可用于推荐 Agent 的 prompt 模板、工具选择策略、query 改写规则库的持续治理。
- 显式技能调用标签把技能使用变成可归因事件,RL 或线上日志可直接统计哪些策略真正影响转化/点击,避免“注入一堆 prompt 但不知道有没有用”;可迁移到生成式推荐的 Semantic ID 策略库或多 Agent 工作流节点的版本管理。
- 多路径技能归纳:从成功会话抽取、失败会话提炼修正、成功/失败对比分析差异生成新策略,且弱模型演化出的技能可迁移到强模型,能降低高质量策略库的生成成本。
Meta^n:通过涌现深度实现递归自我改进
🧭 递归元认知 Agent 自我改进
University of Minnesota · Seoul National University
固定元操作 Ω 并递归应用于输入,实现可收敛深度的 LLM 自我改进,在 ARC-AGI-2 唯一得正分
📌 工作参考价值(4 点)
- 可将固定元操作递归应用到多阶段推荐/搜索流水线:每层读取下层 trace 与代码,输出下一层的预处理策略和可复用 helper 库,把隐式流程知识显式化为工具和策略,便于在 query 改写、召回排序等环节复用。
- 深度由收敛决定而非预先固定,可在 Agent 规划或 query 改写中引入自评收敛,减少无效迭代;结合进化 archive 搜索层链,可迁移为对多策略组合的进化选择,适用于搜索广告出价、文案生成等场景。
- 层间 conditioning 是主要收益:把上一层的完整推理 trace 和生成代码作为下一层上下文,比仅传最终答案更有效,建议在 LLM 推理管道中传递过程性知识而非仅结果。
- 主要是通用推理 Agent 贡献,业务落地需谨慎:任务为 ARC-AGI 等通用推理,与电商推荐数据分布差异大,但固定操作+递归输入的设计可借鉴到多智能体系统的自我改进循环,避免自编辑导致的不稳定。
AI4AI-Bench:评估LLM智能体设计训练算法实现递归自我改进
🧭 LLM Agent 训练算法设计基准
Navers Lab · Einsia.AI · Tsinghua University
构建10任务基准,评估LLM智能体重写训练算法实现递归自我改进的能力,最强仅得0.250分
📌 工作参考价值(4 点)
- 构建内部Agent能力基准时,可采用「冻结代码仓库+固定隐藏评估器+统一归一化分数」的范式:对不同任务的不可比指标映射到同一量纲,0为无信息模型,0.1为基线仓库算法,1为任务最优,便于横向对比各种Agent配置。
- 结论提示:多数LLM Agent在优化任务中只做数据收集或超参数调优,很少真正改变模型学习规则。在电商推荐/广告场景中,若用Agent自动优化训练pipeline,需显式检测其是否只调参而不改update rule,否则提升有限。
- 推理努力(reasoning effort)主要提高Agent「敢于修改核心训练算法」的概率(8%→64%),但对最终得分提升有限。业务上若让Agent做模型优化,增加思考预算可能带来更多探索行为,但需要配合约束和评估器防止无效改动。
- 工程实现上,对Agent提交的代码在隔离环境下从零重跑并限制计算预算(4h重写/12h重训),可防止作弊并确保公平,适合作为自动化优化任务的评估标准。
委托还是亲为?理解混合人-代理界面中的用户行为
🧭 人机混合界面委托行为研究
Future University, Hakodate · De La Salle University
研究发现LLM代理混合界面主要降低交互努力而非提升速度,委派行为个体差异远大于任务差异
📌 工作参考价值(4 点)
- 在电商后台、内容管理或广告投放工具等混合GUI+Agent场景中,提供“委托+直接操作”模式可显著降低点击、翻页、滚动等物理交互成本,但不应指望它缩短任务完成时间;可将降低操作负担作为体验优化指标,而非单纯追求效率。
- 委派行为个体差异大(ICC=.50),远超任务类型差异,说明用户对Agent信任/偏好分化明显。在Agent产品设计中,可支持个性化默认模式(AI-First vs 手动优先),或基于用户历史委派行为动态调整界面默认入口与交互引导。
- 未发现CRUD操作类型(如高风险删除)与委派行为的相关性,用户不会系统性回避高风险委派。因此在设计商品下架、删除等高危操作的Agent能力时,应把风险控制内置到执行流程(如确认、回滚、权限校验),而不是假设用户会因风险而避免使用Agent。
- 通过MCP连接LLM agent,可快速为已有系统增加自然语言操作能力,复用现有API。对于电商/推荐工程团队,这是低成本为内部工具或运营后台增加Agent交互的路径。
AI 后训练中缺失什么:实证分析
🧭 LLM Agent 后训练能力实证分析
Tsinghua University · Renmin University of China · University of Electronic Science and Technology of China
发现 LLM Agent 后训练时策略锁定在初始阶段,仅做局部调整,经验、人类指导与推理算力均无法激发策略级自省
📌 工作参考价值(4 点)
- 若用 LLM Agent 做搜索/推荐模型自动调参或训练流水线,不要只给历史经验或 prompt 提示:需在框架中设置强制策略审查点,要求 agent 根据验证集波动、性能 plateau 等证据重写全局训练策略,避免陷入局部搜索。
- 经验驱动 scaffold 能提升执行效率,但不会改变策略方向;因此对需要探索不同召回/排序结构或生成式推荐 Semantic ID 空间的场景,仅靠积累经验不够,应引入多样性注入或不同策略并行。
- 人类指导只能修正初始策略,开始训练后 agent 会退回局部调整;工程上可在训练循环中加入自动化干预触发器(如验证指标停滞 N 步),强制 agent 重新评估目标与超参数。
- 增加推理算力对简单任务有效,难任务几乎无增益;在复杂商品理解或长链路推荐优化中,不要把算力花在更多推理 token 上,而应投资于更好的策略搜索算法或全局探索机制。
PILOT:面向在线树实验的主动洞察学习智能体技术报告
🧭 Agent 多角色实验优化 · 决策树个性化 ★ 深度解读
Taobao
PILOT 用三角色 LLM 智能体将推荐实验从被动调参升级为主动假设检验与人群级决策树个性化,搜索效率提升 40pp
📌 工作参考价值(4 点)
- 给实验平台加“守卫层”:在真实推荐系统上做 Agent 自主实验,先实现确定性 Action Enumerator + Manager Guard + State Committer;LLM 只从合法候选里选,状态写入和统计判断都不经过 LLM,能显著降低越权和误用风险。
- 用 PolicyTree 做人群级策略个性化:把策略打成 bundle,用 split/prune/hashSplit/updateStrategy 作为原子动作;先做特征质量预筛和 hashSplit 小流量探测,再进入全桶 A/B 验证。适合猜你喜欢、会员分层、广告人群包等配置迭代。
- 记忆分成“策略证据”和“方法论”两层:策略效果只记录成 bundle 对比,并标注因果/诊断证据角色;单次实验只产生 draft,跨任务一致才升 supported/approved。可避免把一次 lucky run 当成全局经验,减少 LLM 幻觉决策。
- 强制“假设先行”的 planner proposal:每个候选必须带可证伪假设、拒绝条件、证据引用和结果后的下一步计划,否则不分配流量;这比事后总结轨迹更可控,适合把实验参数搜索交给 LLM 时的工程约束。
Repo0:设计驱动的零到全代码生成
🧭 LLM Agent 零到全代码生成与结构演化
Shanghai Jiao Tong University · Chongqing University
通过 Dual-DAG 显式架构状态与模块化度量引导结构演化,实现从需求到完整仓库的生成
📌 工作参考价值(4 点)
- 将复杂 Agent 工作流(如推荐系统多阶段 pipeline)显式建模为需求层与组件层 DAG,并维护两层对齐关系,避免多模块各自生成导致的接口漂移与集成困难。
- 借鉴模块化度量(内聚/耦合)驱动的结构迭代思路:在生成式推荐或多 Agent 系统中,先收敛模块边界与依赖关系,再进行实现,可减少返工。
- 测试驱动开发(TDD)方式可直接迁移:从业务需求(如推荐场景的预期行为)先生成可执行的测试用例,以测试通过率作为生成质量的核心信号。
- 显式设定结构收敛条件(如模块化指标不再显著变化),为复杂生成任务的迭代停止提供可量化判据,避免无限循环。
扫清迷雾:在 LLM Agent 中植入与精调主动探索能力
🧭 LLM Agent 主动探索训练 ★ 深度解读
Sichuan University · National University of Singapore · University of Leeds · Engineering Research Center of Machine Learning and Industry Intelligence
通过探索性数据构建和对比信号引导强化学习,大幅提升 LLM Agent 在多轮交互任务中的主动探索与决策能力
📌 工作参考价值(4 点)
- 电商购物 Agent 的训练数据要包含探索轨迹:标准人类专家轨迹中探索动作几乎为 0(如 WebShop 中 Next/Back 仅 0.1%),导致 SFT 后的 Agent 只会被动执行、不会翻页回溯。可以用强 LLM 配合树结构上下文,合成包含主动搜索、回溯、分支尝试的探索丰富轨迹,作为 SFT 初始化数据。
- 用树结构管理会话历史,避免长程任务中的上下文迷失:在电商搜索、多轮比价等场景,线性的 action-observation 历史会混淆有效路径与废弃分支。借鉴论文中的 tree-structured history + cognitive notes,在 Agent 内部显式维护分支、回溯指针和状态标注(如 [DEAD END]、[SUB-OPTIMAL]),能显著提升策略的探索质量。
- 用对比偏好对 + DPO 校准「探索 vs 执行」的决策边界:在关键状态上,采样学生动作与参考动作,通过 MC rollout 估计各自未来回报,过滤小差距对后做 DPO。这套机制可以迁移到推荐/搜索 Agent 的策略优化,让模型学会何时继续浏览、何时停止探索并做出购买/点击决策。
- 探索效率评估与难度分层分析:论文提出的 Eff = EE - WE 指标(有效探索减浪费探索)以及按任务难度分层统计探索强度,可用于业务中诊断 Agent 是否在做有效信息获取,而不是盲目增加交互步数。
Twin:用测试时数字孪生玩未知游戏
🧭 测试时世界模型推断与规划 ★ 深度解读
Stanford University · Cornell University · University of Southern California · Yeshiva University
构建可执行世界模型,强制回放验证和规划后执行,以 93.3 分通关 ARC-AGI-3 23/25 个游戏
📌 工作参考价值(4 点)
- 对高成本真实动作(广告投放、push 打扰、人工客服介入)的探索策略,可借鉴 Twin 的 replay validation + halt-on-mismatch:用可执行代码模拟用户/市场动态,每次真实动作前强制模型回放历史交互,不一致就修复;执行中逐步校验,一旦预测失配立即停止并收集 counterexample,避免错误累积放大。
- 把 dynamics 与 goal/reward 显式分离,先验证转移模型,再通过假设-测试循环推断目标。在推荐/搜索中,用户意图常不可见,可先假设当前 session 目标(比价、闲逛、决策),用最小代价提问/推荐验证,而不是等点击或转化 reward 才优化。
- 让 LLM 生成可执行代码作为世界模型,而非黑盒神经网络,获得可解释、可验证、可 BFS 规划的优势;电商 Agent 可让 LLM 写业务规则或用户模拟器,通过离线日志回放验证,再用于策略推演和路径规划。
- 计算成本换真实动作数量:平均每个真实动作 224k tokens,但动作数减少约一半。对高价值动作划算,对高并发低风险推荐不划算;可按动作成本与风险决定是否启用 test-time compute。
LycheeMemory V2:语义片段级巩固的 LLM Agent 长期记忆框架
🧭 LLM Agent 长期记忆构建与检索 ★ 深度解读
Harbin Institute of Technology, Shenzhen
将逐轮记忆巩固改为语义片段级批量编码,写侧 token 降最多 86% 且 LoCoMo/LongMemEval-S 精度 SOTA
📌 工作参考价值(4 点)
- 在对话式推荐/导购 Agent 中,不要每轮都调 LLM 写画像;改成按语义完整片段批量生成 typed memory records(偏好/事实/约束/事件),写侧 token 可降低 75%–86%,适合长期用户画像积累。
- 分段触发别用固定窗口,可用 embedding 相似度 + cohesion drop 在线检测语义边界,保留事件和话题结构;固定窗口在消融中精度掉 6.8pp,语义分片能提升多跳和开放域问答。
- 把非结构化对话提炼为 typed records,并建立 entity/topic/temporal/event-frame 结构化索引;查询时 planner 一次性规划多路召回(record/节点/时间/原始 turn),再用 RRF 融合,能有效处理多跳、时序、偏好追踪类查询,且避免多轮 LLM 检索带来的 query token 上升。
- 评估记忆系统时,把 construction tokens 和 query tokens 分开核算,不要只比精度;该方法在精度提升 20pp 以上的同时,query tokens 反而比 A-Mem 低 28%–43%。
收敛式绕路劫持:技能型 LLM Agent 中保持任务完成的资源放大攻击
🧭 LLM Agent 技能选择与规划安全
Shenzhen University · The Chinese University of Hong Kong · The Chinese University of Hong Kong, Shenzhen
提出 CDH 攻击,利用技能描述选择与指令体规划两阶段耦合,在任务完成率不变下放大 token 与执行时间消耗
📌 工作参考价值(4 点)
- 在 Agent 技能平台中,不要只依赖自然语言描述做相关性选择:可增加成本/资源元数据(如预估 token、最大耗时)并在选择阶段就进行成本约束,避免“描述相似但执行昂贵”的技能被选中。
- 监控 Agent 轨迹的 token 消耗和时间异常,尤其是任务完成但资源消耗显著高于基线的 run;可设置基于任务类型的分位数告警,检测 CDH 这类“完成但绕路”的放大攻击。
- 对第三方技能做隔离和资源限制:即使技能指令本身无恶意,也可能通过伪造依赖关系招募多余良性工具;可在规划后对工具链做依赖校验,剔除与目标无关的中间步骤。
- 借鉴攻击思路做成本压力测试:在评估自研 Agent 或推荐 Agent 时,故意注入“看似相关但增加绕路”的技能,检验系统是否有足够的成本鲁棒性和轨迹完整性保护。
AVA-Encoder:迈向智能体原生视频表示学习
🧭 Agent 原生视频表示学习
Qwen Business Unit of Alibaba · ShanghaiTech University · The Hong Kong University of Science and Technology · Institute of Computing Technology · Southeast University
提出 AVA-Encoder,将视频编码为知识图谱并用文本梯度优化,提升智能体视频重建与编辑能力,较最强外部基线提高 20.7%
📌 工作参考价值(4 点)
- 知识图谱作为多模态内容统一表示:在电商/推荐场景中,可将商品视频、图片、描述组织为 KG,节点存结构化文本,资产层链接原始媒体,类型化边保留关系,便于 Agent 查询、编辑和生成推荐理由。
- 文本梯度优化可自动化 prompt 策略调优:将评估反馈转化为自然语言更新方向,对推荐/搜索 Agent 的系统提示进行伪训练,减少人工调 prompt 成本,并可在线细化。
- 分层策略优化:外循环数据无关伪训练与测试时数据相关优化分离,轻量级 inner loop 降低 token 消耗;适用于低延迟推荐 Agent 或在线广告文案生成。
- 建立可重建评测基准:强调保真度与可编辑性平衡,电商多模态理解可借鉴其评测方法,避免只优化表面指标。
组合购物基准:LLM代理在预算约束下带优惠券的篮子购物评估
🧭 LLM Agent 购物评估基准 ★ 深度解读
JD.com
提出ComboShoppingBench基准,评估LLM代理在跨商品兼容性、预算和优惠券约束下的组合购物能力,最强代理仅61.2%成功率。
📌 工作参考价值(4 点)
- 电商购物助手可借鉴“隐藏见证”构建法:先生成可行篮子再反向创建任务,确保有解但不限制推荐多样性。
- 混合评估框架(语义判断+确定性验证)可用于实际购物Agent评测,分离语义满足与交易可行性。
- 优惠券最优选择是瓶颈,提示实际系统需要专门的组合优化模块,而非仅靠LLM推理。
- 复杂组合约束下,Agent容易丢失个别条件,可通过提示工程或工具增强多条件跟踪。
SkillProx:通过近端文本梯度下降实现自演化智能体技能
🧭 自演化技能 · 近端梯度文本优化 ★ 深度解读
Hong Kong University of Science and Technology · Macau University
结合闭环诊断验证与验证门控近端精炼,在表格任务上平均准确率超越最强梯度基线3个百分点
📌 工作参考价值(4 点)
- 闭环更新验证:在更新技能或提示词后,必须在同一批次数据上重新执行并检查硬指标是否提升,仅接受有益更新,避免“看起来合理”但实际有害的修改直接写入。可立即用于搜索推荐系统的指令/策略迭代。
- 冻结效用审计:对技能/提示的每个知识单元(如某条规则、示例)做 leave-one-out 评估,量化其边际效用,精准识别负面贡献的冗余内容。可迁移到 Prompt 管理、工具选择等场景。
- 验证门控压缩:通过设置容忍阈值(硬精度不降、单元精度小幅可降)和压缩上限,有序删除或合并低效内容,在控制性能的前提下减少技能长度,降低上下文成本。适用于需要长上下文的 Agent 或检索增强生成。
- 前后向分工:前向负责在线更新,后向负责回溯清理,两种反馈时间尺度互补,可借鉴到推荐系统策略的端到端演化框架中。
EnvACE:通过世界排练内化环境动力学用于智能体强化学习
🧭 Agent强化学习 · 世界模型内化 ★ 深度解读
Shanghai Jiao Tong University · Zhejiang University · National University of Singapore · Sun Yat-sen University · Tencent Inc.
让策略自身扮演环境生成响应,内化交互动力学,实现不依赖外部环境的智能体RL训练
📌 工作参考价值(4 点)
- 训练范式迁移:将环境响应生成的角色交给策略自身,省去构建昂贵的外部仿真环境。对于电商工具调用 Agent(查询库存、下单、修改订单)的训练,可直接用历史交互数据让模型同时学习“动作+响应”,大幅降低环境搭建成本。
- 角色明智 GRPO:对 acting 和 rehearsal 两个角色分别计算基线,但共享参数梯度更新。电商 Agent 训练时可将用户模拟、工具返回模拟作为 rehearsal 角色,与真实 action 角色联合优化,让策略更深刻理解交互因果关系。
- 测试时安全排练:在正式执行前,策略内部进行多次“想象推演”,汇总反馈后指导实际动作。适用于高风险场景(如退款、取消订单、修改支付方式),提前预测错误并修正参数,避免真实环境错误操作。
- 数据效率提升:世界排练允许在无外部反馈的条件下持续改进策略,可在离线数据上预训练 Agent,或结合少量真实交互微调,提升 RL 样本效率。
技能知晓其邻居:用于技能检索的聚类对比能力页
🧭 技能检索 · 对比表示学习
Tencent IMA Product Center · Tencent Youtu Lab
通过聚类对比生成包含正触发、负边界和判别体的能力页,在不改变在线模型的情况下提升技能检索与路由性能
📌 工作参考价值(4 点)
- 当业务中存在大量语义相似但能力不同的技能/功能时,可离线编译「能力页」来增强检索区分度,避免检索器因文档描述的局限性而误召回。
- 引入负边界 T^- 用于路由阶段的候选拒绝,能有效减少下游执行器调用错误技能的概率,可直接用于 Agent 框架中的工具选择环节。
- 离线生成对比表示的思想可迁移到电商商品描述改写、广告文案检索等场景:通过对比邻近项自动生成更具区分性的描述字段,改善结构化信息的检索质量。
- 该方法完全通过改写离线库实现,无需更换编码器或修改在线模型,工程改造成本极低,适合快速验证与上线。
RecHarness:基于Bandit路由与LLM代理的推荐模型自进化框架
🧭 Bandit路由+LLM生成·推荐模型自动迭代 ★ 深度解读
Georgia Institute of Technology · Kuaishou Technology
用Thompson采样选择编辑方向,LLM负责具体代码修改,在有限预算下稳定优化推荐模型
📌 工作参考价值(4 点)
- 分离方向决策与代码生成:把“试什么方向”交给Bandit(基于历史成功/失败后验),把“怎么改代码”交给LLM,避免LLM在巨大搜索空间内盲目发散。推荐系统工程师可借鉴此架构,用简单统计路由控制尝试领域(架构、损失、特征),用LLM执行具体编辑。
- Jump-Basin机制跳出局部最优:当近期提升速率低于阈值时,自动开放结构跳跃臂(如更换序列编码器)。线上A/B显示,这一机制在短期局部精调无收益后自动激活,产出了可部署的结构改进。在广告排序或CTR模型迭代中,可设置类似机制自动触发大改。
- 实验技能(Experiment Skill)作为文本记忆:动态总结成功编辑、失败原因和趋势,形成紧凑的文本上下文注入LLM提示,避免模型重复犯错。可直接迁移到工业Agent中,用于维护试验记录、提炼可复用策略。
- 有限试验预算下的高效分配:Thompson采样在每一轮集中分配试验给高潜力臂,使47.92%的非基线试验刷新了best-so-far分数(随机分配仅22.45%)。在电商搜索/推荐中,当单次全量训练和评估成本高时,此路由可显著提高试验效率。
从理解到行动:基于反馈的策略发现用于生成式推荐
🧭 生成式推荐 · 策略发现与知识蒸馏 ★ 深度解读
Huazhong Agricultural University · Fudan University · Kuaishou Technology · Tianjin University
识别理解-行动差距,提出反馈驱动的策略发现与关系蒸馏框架,将LLM决策知识迁移至轻量SID生成器,实现高效推荐
📌 工作参考价值(4 点)
- 解耦意图与策略,用结果反馈筛选有效策略:将推荐决策拆分为意图理解(用户要什么)和策略(怎么推荐),通过LLM生成多个候选策略,再用实际推荐结果的增量收益(相比仅意图)筛选并迭代优化策略,避免语言合理但推荐效果不佳的策略。可直接用于电商推荐中优化决策逻辑,提升收入。
- 关系蒸馏替代直接匹配,将LLM知识迁移至轻量在线模型:由于LLM的语义空间与行为推荐空间不一致,采用一阶与高阶关系蒸馏对齐用户间的相对结构,比直接匹配嵌入更稳定。可在广告/电商系统中离线用LLM生成意图与策略,蒸馏到轻量生成式模型,在线推理仅增加两个Token位置,延迟仅从0.023s增至0.032s,无需LLM在线调用,适合大规模部署。
- 利用历史轨迹和群组反馈进行策略演化:策略代理基于用户正历史子序列生成多个推荐方向与拒绝边界,执行器统一评估各策略的相对优势,反馈代理通过对比分析给出群体级优化信号,最多两轮演化即可得到稳定增益。该多候选-执行-反思的Agent协作模式可推广到其他需要决策优化的场景,如搜索重排或广告创意选择。
- 意图与策略的粗-细分工设计:实验表明,意图Token主要提升Semantic ID第一层(粗粒度类别)的召回,策略Token在更深层级(细粒度区分)贡献更大。可据此设计分层生成结构,由意图约束大类,策略处理细排,有效提升推荐精度。
工具并非孤岛:基于超边预测的LLM Agent集合级工具检索
🧭 Agent工具检索的集合级重定义与超图建模 ★ 深度解读
Shanghai Jiao Tong University · The Hong Kong Polytechnic University
将工具检索重构为查询条件超边预测,以工具集合整体为单位评分,并捕捉基数依赖的工具交互
📌 工作参考价值(4 点)
- 把工具集当作整体来打分:在电商 Agent 场景(如比价+下单+物流查询)中,不要只按单个 API 相关性召回,可参考 HYSET 的超边预测思想,对候选工具子集做联合评分,直接优化「工具集合是否完整覆盖任务」指标。
- 用基数特异性交互矩阵捕捉工具间依赖:多工具任务中,工具之间的互补性随集合规模变化。可以用一组按集合大小索引的交互矩阵(即 M2, M3, M4 …)来建模这种动态依赖,参数开销远小于显式高阶张量。
- 执行反馈可作为弱监督信号:即使只有部分标注数据,也可以在线采集工具调用链的最终任务成功与否作为奖励,通过 reward-weighted self-training 持续优化检索模块,尤其适合随时新增 API 的电商工具库。
- 两阶段推理兼顾效率与集合评分:先用轻量双编码器做 top-K 初筛,再用集合重排序在缩减后的空间里显式对比不同大小、不同组合的候选工具集,推理延迟可控(12 ms/query),可直接嵌入生产级 Agent 管线。
DataFlow-Harness:用可编辑DAG弥合NL2Pipeline鸿沟的代码智能体平台
🧭 Agent辅助的代码生成与流水线构建
Peking University · Institute for Advanced Algorithms Research Shanghai · Zhongguancun Academy
通过类型化增量突变和MCP落地,引导LLM代理构建可持久编辑的数据流水线DAG,成本与延迟大幅降低。
📌 工作参考价值(4 点)
- 流水线即DAG而非脚本:推荐系统中的特征工程、模型训练、数据回流等流水线常以一次性脚本实现,维护成本高。借鉴DataFlow-Harness,可将LLM生成的流水线固化为可编辑、可复用的DAG,便于版本控制和协作。
- MCP结构化工具暴露:Agent与平台交互时,通过MCP(Model Context Protocol)暴露算子注册、状态等,确保工具调用类型安全。电商Agent场景中,可类似将召回、排序、特征库等组件注册为MCP工具,让LLM可靠编排。
- 增量突变降低生成风险:直接生成完整脚本易出错,改为指导Agent进行类型化增量操作(添加/删除节点、连线),可提升流水线构建成功率。在复杂推荐流水线(多路召回、重排、实验配置)中,这种可控构建思路能减少调试成本。
- Skills编码隐性过程知识:对于依赖领域经验的流水线步骤(如数据分桶、采样策略),可沉淀为Skills指导Agent,减少Prompt工程负担。电商搜索推荐中如索引构建、特征拼接等流程可借鉴。
交互式训练2:实时模型训练的可审计控制平面
🧭 交互式训练控制平面
University of Waterloo · University of Wisconsin-Madison
提供开源控制平面,通过共享协议让人类和智能体对训练过程进行实时、可审计的操控
📌 工作参考价值(4 点)
- 在线训练动态调参:在电商推荐模型持续训练中,可以借鉴其声明式暴露学习率、dropout 等设置,让算法工程师或自动调参 Agent 通过统一接口实时调整,无需重启训练任务。
- Agent 驱动的训练编排:将训练控制能力抽象为 Action(如保存检查点、回滚、切换数据源),LLM Agent 可根据监控指标自动决策并提交请求,例如检测到 loss 异常时自动触发回滚和告警,适合广告模型频繁迭代的场景。
- 审计与复现:所有控制请求和结果按时间线记录,可回溯谁在何时做了何种干预,满足工业级模型训练的合规与排障需求,类似模型版本的 Git 日志。
- 工程实现参考:其“训练循环负责安全控制点”的设计模式可直接复用,在现有训练框架中插入轻量级控制平面,避免多控制器并发冲突,保证状态一致性。
MyAG:基于图的组合式LLM Agent系统设计与分析框架
🧭 LLM Agent 框架设计与优化
City University of Hong Kong
将Agent系统解耦为组件图、工作流图和搜索图三层图抽象,支持灵活复用与层级组合,并提供监控分析工具。
📌 工作参考价值(4 点)
- 模块化解耦设计:将Agent系统拆分为组件、工作流、搜索三个图,可单独替换策略(如LLM调用、规划器、搜索算法),适合电商多场景Agent快速实验。
- 层级组合与递归:通过递归系统节点支持子Agent嵌套,可直接用于构建多级推荐/对话系统(如店铺级、商品级、用户级Agent分层协作)。
- 运行时执行成本分析:内建LLM调用次数、环境动作次数等统计,方便评估搜索推荐场景下Agent的延迟与成本,指导工程优化。
- 可视化与监控工具:提供Agent执行过程的图形化追踪,便于调试复杂推荐链路中LLM调用异常或工作流死锁问题。
布尔查询就够了吗?LLM代理结合布尔检索的探索
🧭 LLM Agent 自动布尔查询生成与检索
University of Waterloo
LLM搜索代理自动生成布尔查询,基于子串匹配密度无监督排序,NDCG@10=0.6863超越主流稠密/稀疏检索器
📌 工作参考价值(4 点)
- 无监督检索替代方案:电商搜索或广告匹配中,可使用LLM将用户query改写为多条件布尔查询,结合商品属性词库进行精确匹配,无需训练稠密或稀疏模型,适合冷启动或快节奏场景。
- 多轮交互式检索:在Agent框架内,用少量模型调用(≤100次/主题)迭代优化布尔查询,可低成本实现高精度检索,可借鉴到对话式导购系统。
- 匹配密度评分:仅基于匹配子串的数量和长度计算相关度,实现简单,可解释性强,适合要求透明排序的业务(如合规广告召回)。
- 数据泄露警惕:由于测试集可能包含在LLM训练数据中,实际迁移时应避免直接使用公开基准,需在业务特有数据集上验证效果。
PalmClaw:移动端原生设备能力工具化 Agent 框架
🧭 移动端原生 Agent 架构 · 设备能力工具化
The Hong Kong Polytechnic University · Hangzhou Diagens Biotechnology Co., Ltd.
将手机能力封装为结构化工具,任务成功率相对提升11.5%,完成时间锐减94.9%
📌 工作参考价值(4 点)
- 在移动端电商 Agent(自动比价、下单、提醒)中,将设备功能封装为严格参数化工具,可替代脆弱的 GUI 模拟,提升任务成功率。
- 工具定义需明确输入参数与结构化返回,形成清晰执行边界——这一设计与推荐系统中 API 封装(如商品搜索接口)的设计原则一致,可降低 Agent 规划复杂度。
- 长操作序列(如多步 GUI 点击)合并为单次设备工具调用,大幅缩短耗时(实验减少 94.9%),对实时性要求高的搜索/推荐后链路执行有直接借鉴意义。
- 若构建 LLM 驱动的搜索推荐助手,借鉴其设备工具抽象方法,可将每个数据源、模型服务明确定义为工具,使 Agent 调度更稳定可追溯。
自主可审计的医学影像模型开发多智能体框架
🧭 多智能体协作驱动自动化模型开发
The Chinese University of Hong Kong · Institute of Automation, Chinese Academy of Sciences · Microsoft Research · Lehigh University · Independent Researcher
提出 AMID 多智能体框架,通过数据条件方法规划与验证引导两阶段优化,实现医学影像模型开发自主化
📌 工作参考价值(4 点)
- 数据条件的方法规划:根据任务数据分析(特征分布、数据质量等)将粗粒度搜索空间细化为可执行的并行探索路径,可迁移至推荐系统的自动特征工程和模型架构搜索,避免盲目超参试探。
- 验证引导的两阶段优化:先广泛探索再聚焦高潜力候选,并在全流程强制校验验证协议、指标计算和输出物,适用于电商推荐模型的 AB 实验自动优化与合规检查,减少人工介入。
- 多智能体协作流水线:计划、执行、验证等 agent 分工协作,可参考搭建推荐模型开发的自主迭代闭环,从数据到上线全链路自动化。
- 强调可审计性:对预测产物和流程的强制验证思路,可借鉴用于生成式推荐中确保生成内容的安全性与一致性,或广告创意自动化审核。
观察与反思:多模态记忆增强的智能体协同推荐
🧭 多模态记忆增强的智能体协同推荐 ★ 深度解读
Tsinghua University · University of Science and Technology of China · Peking University · The University of New South Wales · Macquarie University
提出双轨多模态记忆增强智能体协同框架,融合推理与稠密匹配,在视觉密集型推荐上大幅领先
📌 工作参考价值(4 点)
- 双轨解耦推荐:将 LLM agent 的推理排序与多模态稠密匹配分为两个独立 track,通过加权 RRF 融合。电商推荐系统中,可借鉴将基于 agent 的可解释推理结果与基于视觉/文本的稠密检索结果进行加权融合,兼顾可解释性与精度。
- 属性引导的记忆演化:预定义语义属性空间,利用 LLM 抽取关键属性来指导记忆的强化或反思,有效减少噪声和偏好漂移。在用户画像管理模块,可以设计类似机制,用结构化属性来控制画像更新,避免自由反思带来的冗余。
- 多模态记忆初始化:从商品图片生成视觉描述并与标题融合,构建多模态 item memory。可直接用于视觉敏感场景(时尚、电子产品)的 item 表征,或为多模态检索增强生成提供素材。
- 推理与匹配的记忆分离:推理 track 保留压缩后的结构化记忆,匹配 track 保留原始交互叙述和图片用于稠密检索,既保持 agent 推理效率,又不丢失细粒度多模态信号。可迁移到需要实时更新用户向量的召回-排序联合设计。
自主信息寻求:Agentic 推荐系统的路线图
🧭 Agent 推荐系统自主性等级与范式综述 ★ 深度解读
National University of Singapore · Polytechnic University of Bari · Renmin University of China · University of Science and Technology of China
提出融合自主性等级与三种代理范式的统一分类法,系统梳理 LLM 代理如何改造推荐系统
📌 工作参考价值(4 点)
- 用 LoA 定位架构取舍:把自家系统映射到 L0–L5 谱系,明确当前痛点是工具调用(L3)、单 Agent 规划(L4)还是多 Agent 协同(L5),避免一上来就堆多 Agent。
- Agent 辅助而非替代:多数业务不需要 Agent 端到端取代原有推荐 pipeline。借鉴 L2–L3 的检索增强与工具驱动辅助模式,用 LLM Agent 做意图理解、约束推理、解释生成,保持原有召回/排序的稳定性。
- Memory 设计三件套:采纳 working/episodic/semantic memory 的分层设计,用短期对话摘要、跨 session 偏好记忆、语义知识库支撑个性化决策,在电商中可对应“购物车-历史订单-品类偏好”记忆体系。
- 多 Agent 协作的通信成本:从 manager–worker、debate–judge 等协作协议中选型时,优先用结构化工具调用管道而非自由对话,降低长链路中的 token 消耗与错误累积,并提前设计轨迹级评估指标。
ResearchStudio-Idea:从顶会论文中学习可复用研究构思模式的技能套件
🧭 自动化研究构思 · 证据驱动生成
Nanyang Technological University · Microsoft Research · National University of Singapore · CF AR, A*STAR
从机器学习顶会论文中提取15种可复用构思模式,构建证据驱动的端到端创意生成工作流
📌 工作参考价值(4 点)
- 模式提取可复用到策略创意生成:类似地从历史高转化广告文案、高效召回策略中挖掘重复出现的“成功模式”(如特定痛点切入、差异化角度),形成结构化卡片,引导 Agent 批量生成新的营销方向或推荐策略。
- 证据准备度检查模板:在接收业务需求(如提升冷启动推荐效果)时,先让系统核查输入信息的充分性(类似 IdeaSpark 的 evidence readiness),避免基于不完整上下文生成低质量方案。
- 碰撞检测机制用于创意排重:在批量生成推荐理由或 push 文案时,可引入类似 Scoop-Check 的冲突检索,确保新颖性,防止重复已有内容或竞品方案。
- 审查与追溯卡片提升交付物可信度:对生成的推荐策略附上“提案卡片”,包含依赖的前人工作、可能失败模式,便于工程团队评估风险、追溯决策依据,尤其适合 Agent 辅助的离线策略推荐场景。
当无人注视时LLM代理说了什么:多智能体辩论中社会结构与隐性目标的涌现
🧭 多智能体社会结构导致公开与私下表达分歧
Independent Researcher · Carnegie Mellon University
社交压力使LLM代理公开言论大幅偏离私下真实想法,分歧从3%升至40%
📌 工作参考价值(4 点)
- 在构建多智能体模拟环境(如用户反馈模拟、谈判代理)时,引入私下通道(OTR)可检测代理公开言论的真实性,避免因社交压力导致的策略失真。
- 广告文案生成或推荐解释评估中,可借鉴双通道框架对比公开输出与内部无约束输出,从而识别过度讨好或迎合受众的内容偏差。
- 需要代理协商的场景(如动态定价、库存分配),利用本文的立场、语义相似度等行为测量方法量化代理的让步程度,防止因关系压力做出次优决策。
- 代理评估不应只关注任务完成指标,还应检测社交环境下涌现的隐性目标,这对电商搜索会话中对话代理的诚实性保障有直接启发。
AutoTrainess:通过训练专用接口实现语言模型自主后训练
🧭 Agent 自动化模型训练流程 ★ 深度解读
Tsinghua University · The Chinese University of Hong Kong · Simple Agent Lab
提出训练专用智能体-计算机接口(AutoTrainHub),将人类后训练经验编码为工作流,使LLM agent在PostTrainBench上显著超越CLI-only基线
📌 工作参考价值(4 点)
- 在自动化模型迭代任务中,将人类最佳实践抽象为固定接口(数据选择、清洗、格式验证),可大幅降低agent在训练pipeline中的失败率,尤其适合需持续优化的推荐模型再训练。
- 采用分阶段工作流(诊断→基础对齐→困难样本增强)引导agent逐步优化,避免过早陷入局部改进,可迁移至推荐系统的特征工程或数据诊断自动化。
- 通过结构化实验日志保留长期记忆,使agent在多轮迭代中保持连贯决策,对需要长期A/B测试和增量学习的搜推广系统有参考价值。
- 使用受约束的动作空间(固定训练框架、评估脚本)确保可复现性,这一设计原则可应用于搭建可靠的自动化模型上线与监控流程。
自我进化的世界模型用于 LLM 智能体规划
🧭 世界模型与记忆自进化增强 LLM Agent 规划
National University of Singapore · Singapore University of Technology and Design · Singapore Management University
提出 WorldEvolver:部署时通过记忆修订增强世界模型预测与规划,无需更新参数
📌 工作参考价值(4 点)
- 在搜索推荐系统中,可构建“世界模型”模拟用户对推荐结果的响应(点击、购买等),替代真实环境试错,加速策略优化。
- 分层记忆(情景记忆 + 语义记忆)可分别存储实时交互序列与长期行为规则,用于用户兴趣建模和动态策略提升。
- 选择性前瞻机制过滤低置信预测,避免劣质生成内容污染推荐或排序结果,可迁移至生成式推荐的幻觉控制。
- 自进化框架支持模型参数冻结下的在线适应性提升,适合电商/广告场景中对延迟敏感的大规模部署。
进化微调:跨越371个优化任务的学习发现
🧭 进化搜索LLM Agent · 跨任务迁移
University of Minnesota · Carnegie Mellon University · KAIST · University of Cambridge · Hanyang University
将进化搜索轨迹转为训练数据,让LLM学会跨任务的迭代进化改进能力
📌 工作参考价值(4 点)
- 搜索/推荐场景中的超参调优、召回策略组合优化可借鉴:将历史自动调参轨迹作为训练数据,让 LLM 预测下一步变异方向,减少试错成本。
- Agent 设计可学习“如何改进解决方案”的元能力,而非依赖外部脚手架:将搜索中的成功/失败经验注入模型,使 Agent 在新场景下快速适应。
- 多目标优化(如点击率 vs 多样性)可将帕累托搜索过程构造为轨迹数据集,微调出能直接生成改进策略的模型。
- 工程上,轨迹数据的构造需包含候选解、评分、变异操作、结果反馈,可仿照 Finch Collection 设计领域特定的搜索轨迹格式。
LLM Agent 经验规则与策略联合学习
🧭 LLM Agent 经验复用 · 规则增强强化学习 ★ 深度解读
Sun Yat-sen University
JERP联合更新经验规则池和策略参数,在多步交互任务上超越纯RL基线
📌 工作参考价值(4 点)
- 多步交互Agent(如对话导购)可维护规则池(如“先确认场景再推荐”),与模型RL训练同步更新,避免规则过时。
- 规则更新采用对比反思式生成:提供成功/失败轨迹给LLM,自动产出规则编辑操作(ADD/EDIT/UPVOTE/DOWNVOTE/MERGE),工程上可用固定模板解析,实现自动化规则管理。
- 规则效用评分机制与容量限制剪枝,确保规则池在在线学习中规模可控、质量可维护。
- 同批轨迹两次利用(策略更新、规则更新)提高数据效率;可与LoRA等参数高效微调结合,降低训练资源开销。
面向LLM智能体的语义一致性策略优化
🧭 LLM Agent强化学习的信用分配优化
The Hong Kong University of Science and Technology (Guangzhou) · The Hong Kong University of Science and Technology
提出SCPO,利用成功兄弟轨迹的语义对齐为失败步骤赋予正向信用,缓解群组RL中的信用不一致
📌 工作参考价值(4 点)
- 在多轮对话推荐Agent训练中,失败对话里的部分有效步骤(如正确追问偏好)可通过语义一致性奖励得到正反馈,提升样本效率。
- 工程实现上,仅需添加一个轻量的句子嵌入模型计算步骤间语义相似度,无需训练价值网络,可无缝接入现有GRPO/DAPO等群组RL管线。
- 对于搜索/推荐中需多步决策的长周期任务,可用SCPO对中间步骤进行更细粒度的信用分配,避免仅凭最终转化给奖励导致的训练不稳定。
- 失败轨迹的语义相似度阈值与权重可作为超参调节,控制探索与利用的强度,适配不同稀疏程度的业务场景。
MEMPROBE:通过隐藏用户状态恢复审计 Agent 长期记忆
🧭 Agent长期记忆的可审计评估 ★ 深度解读
University of Illinois Chicago · KU Leuven · UC San Diego
将 Agent 记忆视为可审计产物,从遗留记忆重建隐藏用户状态,直接量化记忆质量
📌 工作参考价值(4 点)
- 恢复审计评估:对电商客服、推荐对话等 Agent 系统,定期从记忆库中重构已知用户属性(如偏好、历史事实),与真实值比对,而非仅看下游任务指标,直接暴露记忆质量。
- 分离写入与检索诊断:采用“全量导出(dump_all) vs 系统 top-k 检索”的双模式对比,快速定位是记忆写入遗漏还是检索索引不足,指导优化写入策略或检索模块。
- 强化情景记忆绑定:针对用户单次关键交互(如退货纠纷原因),要求记忆系统不仅存储事件表面,还要保留事件与后果的因果链,提升后续个性化推荐的上下文深度。
- 检索感知的整合策略:在写入时即考虑后续检索场景,将原始对话转化为简洁、可检索的结构化摘要,确保关键偏好能在有限的 top-k 召回中命中,避免“存储了却拿不出”的困境。
SkillHone:基于持久化决策历史的持续Agent技能进化框架
🧭 Agent技能持续进化 · 决策历史持久化
Tencent Inc.
通过持久化决策历史与角色分离子代理实现Agent技能的持续进化,超越商业deep-research agent
📌 工作参考价值(4 点)
- 技能进化与搜索推荐系统结合:将技能看作搜索推荐中的策略、召回规则或排序配置,用 SkillHone 的持久化历史管理这些策略的迭代,避免无效回退,每次修改都可追溯其诊断依据与实证反馈,适用于广告出价策略动态调整、推荐模型在线更新。
- 角色分离子代理用于多智体协作:引入 diagnosis、revision、evidence 等子代理分工,可迁移到电商 Query 改写或搜索建议生成场景,一个代理诊断当前 query 性能短板,另一个根据历史修订记录提出新的改写方案,通过实践探针评估后合入主流程。
- 实践探针机制做离线评估:在推荐系统中可抽检历史曝光样本作为探针,每次技能更新后重跑探针并比对效果,实现低成本、可复现的离线迭代,比全量 A/B 实验更快反馈。
- 决策历史作为知识资产沉淀:主动记录 agent 的决策过程(如为什么使用某个召回通道、为什么排序公式这样调参),形成可检索的知识库,让后续模型或工程师快速理解历史优化逻辑,减少重复实验。
超越全局重规划:跨设备智能体的分层恢复
🧭 多设备 Agent 分层恢复框架
Shanghai Jiao Tong University · Shanghai Innovation Institute · Southeast University · Tsinghua University
提出 H-RePlan 分层重规划框架,分离设备局部策略恢复与全局重规划,结合 HeraBench 故障注入基准,大幅提升多设备 Agent 任务完成鲁棒性并降低 token 消耗。
📌 工作参考价值(4 点)
- 分层故障隔离与恢复:在电商搜索/推荐系统的多服务 Agent 编排中,可借鉴设备本地策略恢复与全局重规划分离的思路,区分 API 故障、参数错误等局部可修复错误与需要重新规划跨服务流程的全局错误,避免代价高昂的全量重试。
- 多策略执行器设计:为每个服务节点(如召回、排序、广告投放)定义可互换的执行策略(例如 API 调用、脚本回退、GUI 模拟),当一种方式失败时快速切换,提升局部自愈能力,增强整体系统的容错性。
- 故障注入测试基准:参考 HeraBench 构建方法,为推荐/搜索 Agent 工作流注入策略级(如服务超时、数据格式错误)和设备级(如节点宕机)故障,系统评估 Agent 在动态异常下的成功率与指令遵循度,指导鲁棒性优化。
- 紧凑跨层抽象通信:在全局编排器与局部执行器之间使用结构化故障信号(如错误码、策略空间状态),减少 LLM 对话轮次和 token 消耗,可用于多 Agent 协作的轻量级信息传递设计。
CEO-Bench:AI 智能体能否在模拟创业中玩转长线经营?
🧭 智能体长期决策评估 ★ 深度解读
Princeton University
构建 500 天初创公司经营模拟,考察智能体长期规划、信息获取与自适应能力,多数模型破产,顶尖模型勉强盈利。
📌 工作参考价值(4 点)
- 长期决策能力测试范式:在电商/推荐系统中,可参照该基准设计类似“多周期经营模拟”来评估 Agent 在面对延迟反馈、非平稳环境时的策略稳定性,例如动态定价、广告投放的长时间 A/B 测试模拟。
- 细粒度工具与数据接口设计:该基准的 Python API 和 19 表数据库为 Agent 提供了 SQL 分析 + 精细化动作空间,可以借鉴到推荐系统 Agent 中,让模型自主查询用户行为表、调整推荐策略参数,实现闭环优化。
- 隐藏信息推断与条件规划:模拟中智能体通过挖掘交易历史、社会媒体帖子推断市场偏好,并编写 IF-THEN 场景模拟代码;推荐系统 Agent 可类似地分析用户隐式反馈、预测不同策略的长期收益,提升自适应能力。
- 多模型行为模式对比:研究发现顶尖模型(Opus 4.8, GPT-5.5)将 90% 开发预算用于精准客户群定向,而弱模型则“一刀切”;在广告/推荐中,可借鉴该分析维度,监控 Agent 的策略粒度与资源分配合理性。
EvoArena: 追踪记忆演化以提升动态环境中的 LLM 代理鲁棒性
🧭 LLM Agent 鲁棒性 · 环境演化与记忆进化 ★ 深度解读
National University of Singapore · Singapore Management University · University of Washington · University College London · University of Pennsylvania
提出动态环境评测套件 EvoArena 和补丁式记忆机制 EvoMem,通过记录记忆变化轨迹让代理在持续演化的任务中更鲁棒。
📌 工作参考价值(4 点)
- 记忆演化追踪:将记忆更新记录为“补丁”,保留变更前后状态、原因和证据。电商推荐中用户偏好随时间变化,可记录每次偏好更新及触发上下文,用于更精准的长期用户建模。
- 链式任务评估:EvoArena 的链式准确率评估方法要求连续子任务全对才算成功,可借鉴到 Agent 流水线评测,衡量系统在持续变化环境下的端到端可靠性,而非仅看单步指标。
- 版本化状态管理:当系统规则或模型更新时,保留旧版本知识,避免新信息完全覆盖旧信息。在推荐策略迭代或 A/B 测试时,可回溯历史版本行为,支持更稳健的上线决策。
- 补丁检索推理:查询时检索相关历史变更,而不仅用最新记忆,可用于处理时间敏感或条件依赖的任务。例如根据当前上下文检索用户过去的偏好变化轨迹,辅助动态意图识别。
HarnessBridge:面向 LLM Agent 的可学习双向控制器
🧭 Agent 交互接口 · 可学习 harness 优化 ★ 深度解读
University of California, Los Angeles
将 Agent 与环境的交互接口参数化为可学习的双向投影,通过指令微调轻量模型,在提升任务成功率的同时大幅降低 token 消耗和轨迹长度。
📌 工作参考价值(4 点)
- 可学习的交互策略:Harness 不再靠人工规则,可用轻量模型学习观察压缩和动作拒绝策略,适用于电商客服 Agent、多步推荐交互等长周期对话场景,减少无效交互和上下文膨胀。
- 双向投影设计:Observation Projection 保留关键信息、压缩冗余、丢弃无关内容,并维护 active-state index,可直接复用到复杂 Agent 的上下文管理中;Action Projection 通过轨迹证据拒绝无效动作并给出改进建议,可提升如工具调用、搜索 API 交互的效率。
- 轻量模型的控制器模式:用 0.8B 模型控制 35B+ 生成器,推理开销仅约生成器的 7%,该模式在成本敏感的电商 Agent 部署中极具参考价值,可用小模型做交互仲裁。
- 统一指令微调范式:将观察压缩与动作校验统一为条件生成任务,采集带约束的轨迹数据,可泛化到不同生成器,适合需要快速适配不同 LLM 后端的推荐或对话系统。
Role-Agent:让单一 LLM 扮演代理与环境双重角色,自举式协同进化
🧭 LLM Agent 自举式协同进化 · 过程奖励 ★ 深度解读
University of Science and Technology of China · AMAP, Alibaba Group
用一个 LLM 同时做 agent 和环境,通过预测未来状态和分析失败模式实现自举式共进化,平均提升超 4%
📌 工作参考价值(4 点)
- 模拟环境自生成与针对性训练:在对话推荐、客服 Agent 等场景,可用同一 LLM 根据历史失败交互(如用户不满意的对话)分析失败模式,自动检索并复现类似任务,实现针对性微调,无需人工构造样本。
- 预测用户状态作为额外奖励信号:在交互式推荐/搜索中,可在 agent 动作后要求其预测用户/环境下一步状态(如用户下一句话、页面跳转),将预测匹配度作为过程奖励来调制任务奖励,鼓励模型理解动作后果,避免随机成功带来的奖励误导。
- 双角色复用降低工程复杂度:无需额外部署专门的环境模拟模型或任务生成器,直接用同一个 LLM 切换角色完成数据增广和训练,适合资源受限或快速迭代的场景。
- 状态分组优势计算:借鉴 GiGPO 的状态分组思想,可按相同状态(如用户类似意图)对交互中的动作进行分组归一化优势,减少时序噪声,提升梯度的稳定性,可直接移植到 PPO/GRPO 训练流程中。
解耦语义与逻辑:一种面向视频RAG的免训练由粗到精流水线
🧭 视频RAG · 免训练粗精检索与生成
Huazhong University of Science and Technology
提出免训练两阶段Video RAG方案:粗召回用纯视觉/文本摘要避免噪声模态,细粒度推理过滤用LLM实现逻辑对齐与persona遵守
📌 工作参考价值(5 点)
- 面向电商/Agent/生成式推荐从业者,可借鉴的工程化落地点:
- 两阶段解耦范式:将检索拆分为语义召回与逻辑重排序,召回时主动隔离ASR/OCR等噪声模态(仅用视觉摘要和全局文本),保持向量空间纯净,避免低质量信号污染;在推理阶段再引入全模态,适合多模态内容理解时对抗噪声。
- LLM作为自适应过滤Agent:用商业LLM实现迭代推理式重排序,显式检查候选项与用户persona的逻辑一致性,可迁移到对话式推荐或query改写中,用于剪枝语义相似但意图不符的候选item/query。
- Prompt Sculpting强约束生成:通过prompt工程迫使生成器输出结构化JSON并带精确来源引用,保证可追溯性;在电商场景中可用于从多源视频/直播/评论中生成规范化的商品摘要或问答,降低幻觉。
- 全免训练方案:不依赖标注数据进行微调,适合快速业务验证和资源受限环境,可直接复用现有视觉/文本编码器和LLM。
贝叶斯智能体:后验引导的技能进化驾驭LLM代理
🧭 贝叶斯证据驱动的代理技能进化 ★ 深度解读
IDEA Research · The Hong Kong University of Science and Technology (Guangzhou) · DataArcTech Ltd.
将代理技能视为贝叶斯假设,基于验证轨迹后验指导技能修补、压缩与退役,实现无需改权重的可靠进化。
📌 工作参考价值(4 点)
- 技能维护引入贝叶斯后验:不要仅凭成功/失败次数决定是否保留技能,使用特征条件后验(如失败模式、上下文)估计技能可靠性,避免小样本下的决策噪声。
- 分离审计与执行:后验诊断信息只留给开发者,模型提示仅注入确定的失败补丁与 guardrail,避免 LLM 直接处理概率数字,提升 prompt 稳定性。
- 增量修复模式:对已完成的代理运行,仅重跑失败任务并基于证据修补技能,可用较低 token 成本提升整体成功率(如 RealFin 从 45% 修到 65%)。
- 轨迹特征离散化:将失败模式、token 数、回合数等桶化编码为离散特征,适合小样本技能效果推断,可借鉴至电商多轮代理的失败模式分析与自动护盾生成。
AdaPlanBench:LLM代理在动态双重约束下的自适应规划评测
🧭 Agent 自适应规划评估 ★ 深度解读
University of Illinois Urbana-Champaign
首个动态交互式基准,评估LLM代理在逐步揭示的世界与用户双重约束下的自适应重规划能力。
📌 工作参考价值(4 点)
- 交互式约束揭示机制可用于推荐系统用户偏好挖掘:论文中代理仅当规划违反隐藏约束时才收到反馈,这种按需揭露的方式可迁移至对话式推荐,动态获取用户隐式偏好,避免一次性询问过多问题。
- 双重约束框架适用于电商场景的策略规划:用户约束(如偏好、预算)和世界约束(如库存、物流)的分离建模,可作为多约束下商品组合、优惠券分发的决策训练范式。
- 约束累积导致的性能衰退提示需设计健忘缓解策略:实验表明代理在交互中期容易遗忘已揭示约束,推荐系统在多轮对话中同样需要维护约束记忆,可借鉴其显式约束追踪模块的设计,但需注意仅追踪仍不足以最终成功,还需配合重规划能力。
- 用户约束的难度显著高于世界约束:在推荐或Agent业务中,应更加注重用户偏好的建模与动态更新,例如引入专门的用户偏好消化模块,或对用户约束赋予更高优先级。
Context-as-a-Service:为 LLM 智能体提供跨文件依赖链检索层
🧭 Agent 工具增强 · 跨文件依赖检索
Meta Platforms, Inc.
提出 CaaS 检索层,让 LLM 代理通过混合搜索追踪跨文件依赖,提升文档审查质量并节省 22-34% 时间
📌 工作参考价值(4 点)
- 检索增强代理设计模式:在电商推荐系统中,为 Agent 构建专用检索索引(如商品知识图谱、接口文档、历史实验记录),使用「关键词+语义」混合搜索作为工具,让 Agent 自主查询跨模块依赖,避免将所有上下文塞入 prompt,能显著提升复杂任务(如推荐链路排障、AB 报告生成)的准确性和效率。
- 增量评估方法:论文采用基线已具备常规仓库工具(文件读取、关键词搜索)再叠加检索层的对比方式,可迁移到评估推荐 Agent 增强方案,确保效果归因于新增的检索能力而非基础工具完善。
- 减少 token 开销的工程技巧:通过有目标的检索索引,Agent 无需加载大量上下文,输入 token 使用量下降,节省成本。这在调用大模型生成推荐理由、商品描述等高频任务中可直接复用。
- 依赖链追踪对多智体协作的启示:电商多 Agent 系统中,各 Agent 处理不同领域(商品、用户、营销),CaaS 的思路可用来构建跨 Agent 知识检索总线,使 Agent 能按需查询其他 Agent 的输出依赖,避免信息孤岛。
Agent libOS:面向长期运行能力受控LLM Agent的类库操作系统运行时
🧭 Agent运行时架构 · 能力安全控制 ★ 深度解读
Tsinghua University
将LLM Agent抽象为操作系统进程,把安全边界从工具包装下沉到运行时原语,实现按能力授权、阻塞等待与审计
📌 工作参考价值(4 点)
- 工具与权限分离:将模型可见的工具 Schema 与真实资源授权解耦,避免因 prompt injection 或输出注入导致越权操作,对构建电商客服、推荐系统 Agent 等需要安全控制的应用有直接参考价值
- 进程模型管理 Agent 生命周期:用 fork/spawn/exec/wait 等语义管理子任务和人工审批等阻塞操作,可以轻松实现推荐 Agent 的暂停、恢复、任务分派与状态隔离
- 类型化对象内存:用带权限和来源的类型化对象图替代原始对话文本,有利于记忆管理、上下文裁剪和知识复用,适用于需要维护用户画像和对话状态的推荐 / 查询推荐 Agent
- JIT 生成工具沙箱化:通过 Deno 的无权限运行和 syscall 代理机制安全执行 Agent 生成的 TypeScript 工具,可为企业环境下的动态工具扩展提供工程范本
VirtualMLE:通过LLM Agent反思与记忆实现序列推荐自动调优
🧭 LLM Agent 自动化推荐模型调优 ★ 深度解读
Tsinghua University · Beijing University of Posts and Telecommunications
用LLM Agent构建反思-记忆闭环,将序列推荐调优转化为可迁移的认知推理,大幅降低试错次数
📌 工作参考价值(4 点)
- 将LLM嵌入模型调优流程:可借鉴VirtualMLE的“执行-反思-记忆更新”闭环,在推荐模型上线前的调参阶段,用LLM agent替代人工或贝叶斯优化,自动分析试验结果并诊断瓶颈,减少工程师重复劳动。
- 层次化记忆复用调优经验:长期记忆存储跨数据集的通用启发(如稀疏数据适合强正则化、注意力模块宜用较低学习率),短期记忆记录当前搜索轨迹。在电商多域(首页猜你喜欢、详情页关联推荐等)场景下,可以把已优化域的知识快速迁移到新频道,降低冷启动成本。
- 反思模块输出因果归因:每次试验后让LLM生成“哪个改动导致了什么结果”的归因摘要,指导后续搜索方向。实际工作中可嵌入到AutoML pipeline里,作为可解释的搜索记录,辅助人工决策。
- 认知摘要实现跨任务迁移:将完整调优轨迹蒸馏为Cognition Summary(如“相对位置编码优于绝对+相对”、“embedding tying对稀疏数据有益”),作为新数据集的初始先验,能在电商多品类推荐中显著加速收敛(论文中跨域迁移只需1/3试验次数)。
策略与世界模型共训练:让语言智能体在 RL 中学会预测动作后果
🧭 语言智能体 · 世界模型与强化学习共训练 ★ 深度解读
Southern University of Science and Technology · Hong Kong University of Science and Technology · Hong Kong University of Science and Technology (Guangzhou) · Hong Kong Polytechnic University · LIGHTSPEED
将 on-policy RL 的 rollout 同时用作世界模型的下一观测监督,通过动作熵过滤、裁剪 MAE 损失和奖励自适应权重实现稳定共训练,无需额外模型或推理开销
📌 工作参考价值(4 点)
- 复用现有 rollout 作为世界模型监督:在电商对话 Agent 或推荐交互 Agent 中,用户与系统的多轮交互(如搜索-浏览-下单)天然包含状态转移样本,可将每步动作对应的下一页面内容作为预测目标,无需额外构造模拟器。
- 动作熵过滤冗余样本:只保留策略熵较高的决策点(如用户提问模糊、候选商品多)的转移样本进行世界建模,避免大量确定性动作(如翻页)造成的低效训练,可显著提升样本效率。
- 用裁剪 MAE 替代 CE 应对噪声观测:在电商页面等富含随机 ID、产品名的文本环境中,MAE 损失能抑制不可预测 token 的梯度,配合置信度裁剪(pt,i >ρ 的 token 不训练)可防止过拟合表面形式,使世界模型抓住核心动态。
- 奖励自适应权重平衡多任务:根据 rollout 组成败调整世界模型 loss 权重,低成功率组强化环境理解,高成功率组侧重策略优化,这种简单启发式可直接用于客服 Agent、推荐对话 Agent 的多目标 RL 训练。
SIRI: 自我内化强化学习与内在技能
🧭 LLM Agent 强化学习 · 自我技能内化 ★ 深度解读
Xiamen University · Meituan · Macao Polytechnic University
通过三阶段自监督技能挖掘与优势加权内化,让LLM智能体在长程任务中摆脱推理期技能库依赖并取得最优性能。
📌 工作参考价值(4 点)
- 自动技能提取:借鉴自我技能挖掘(Phase 1),可从电商客服或购物Agent的成功交互轨迹中自动总结可复用策略(如处理缺货、比价),无需外部大模型生成,降低人工成本。
- 在线效用验证与技能生命周期管理:采用配对rollout的效用差(Δ_g)动态评估技能质量,并设置候选→激活→退役的进化机制,可确保线上使用的技能始终有效,避免技能库污染。
- 优势加权内部化实现检索自由:通过轨迹级效用门控与动作级优势加权,仅将正向技能引导的动作token蒸馏到基础策略,彻底移除推理期的技能检索、提示注入,显著降低上线延迟与工程复杂度,适合高并发电商推荐与对话系统。
- 训练框架的兼容性:SIRI可与现有RL算法(如GiGPO、GRPO)无缝衔接,作为增量模块提升现有Agent训练流水线,且自我挖掘的技能可逐步逼近外部强模型生成的质量,适合在模型自主进化中逐渐摆脱对昂贵外部API的依赖。
用 LLM Agent 打通时间序列预测的最后一公里
🧭 LLM Agent · 预测修正与业务落地 ★ 深度解读
Trip.com Group
提出以 LLM agent 对统计基线预测进行可溯、约束化的业务修正,将上下文信息转化为结构化修订动作。
📌 工作参考价值(4 点)
- 预测修正的工程化模式:将统计基线预测与业务修正解耦,把修正动作封装为可审计的操作(范围缩放、点位覆写),可直接用于电商需求计划、促销备货等场景,把运营经验结构化地注入到预测中。
- Agent 工作区设计:共享的表格式工作区(历史值、基线预测、可编辑修订值)保证历史与基线不可变,所有修订仅作用于 y_final,避免模型幻觉污染原始信号,这种“受控编辑”的思路可复用于推荐系统中的打分后调整或多策略融合。
- 长时预测的 map-reduce 分解:将长预测区间拆分为事件窗口并行推理,再通过统一动作接口合并,适合电商大促期的多活动多时段调优,提升推理效率且保持可审查性。
- 基于记忆的自我改进闭环:在真实值出现后生成校准反思,存为结构化记忆,后续预测时优先检索历史修正错误,避免重复犯错,该机制可直接用于推荐系统的 A/B 后评估与在线参数的自适应调整。
探索自主智能体数据工程实现模型专业化
🧭 Agent 驱动的数据工程与模型专业化 ★ 深度解读
Zhejiang University · Platform and Content Group, Tencent
将数据工程形式化为端到端闭环任务,让LLM自主策划训练数据以驱动学生模型专业化,在三个领域取得显著增益
📌 工作参考价值(4 点)
- 用 Agent 闭环自动化领域微调数据生产:借鉴 Iterative Agent 架构,将数据策展建模为 Draft→Debug→Repair→Improve 迭代循环,利用学生模型在公开验证集上的性能作为反馈信号,贪心地选择历史最佳提交,可复用于电商推荐场景的指令数据合成(如商品描述生成、搜索词改写)。只需提供任务描述、种子池和 API 预算,无需人工设计数据流水线。
- 多样性比质量更依赖迭代:分析显示,迭代主要提升生成数据的多样性(instruction/response diversity),而响应质量提升有限。在构建商品/店铺推荐数据时,可重点通过迭代扩展问题覆盖范围,避免重复生成高难度但同质化的样本。
- 用 Greedy Public-Score Selection 提升鲁棒性:由于合成数据引入高方差,单次提交可能性能骤降。采用贪心策略保留公开集上历史最佳提交,能显著减少灾难性遗忘与波动,这一简单方法可直接用于 Agent 驱动的数据优化管线。
- 警惕 LLM 的数据量保证缺失与格式处理陷阱:实验显示主流 Agent 普遍缺乏对最终数据集大小的主动校验,且在处理 LaTeX/代码等复杂格式时大量样本被过滤。在生成电商知识问答数据时,务必在 Agent 工作流中显式加入数量检查和格式补全模块,必要时限制单次数据生成逻辑的复杂度,避免 API 输出截断。
DataPrep-Bench:统一评估 LLM 训练数据构建与质量
🧭 LLM 训练数据准备基准
Peking University · Institute for Advanced Algorithms Research, Shanghai · OriginHub Technology · Zhongguancun Academy
首个端到端基准评估 LLM 数据构建与质量预测,提出 DAS 评分和技能引导代理
📌 工作参考价值(4 点)
- 在电商搜索/推荐场景的微调数据准备中,可借鉴 DAS (Distributional Alignment Score) 评估候选数据集与目标域(如商品查询、点击日志)的分布对齐程度,通过 MMD 衡量分布差异,过滤低质量样本,提升下游模型性能。
- Data-Construction-Skill 代理将复杂数据构建任务分解为技能引导的子任务,电商从业者可类似地将“查询-商品对生成”拆解为属性抽取、语义改写等技能,提升合成数据的多样性和相关性。
- 采用 下游驱动评估协议:不依赖表面文本指标,而是通过实际微调验证数据价值,推荐团队在迭代数据管道时可直接用在线 A/B 指标作为数据质量的最终评判标准。
- 基准中数据质量评估与数据构建的 统一框架 可迁移至推荐系统的训练数据准备流水线,将数据采集、清洗、标注和筛选环节标准化,并通过 DAS 等指标闭环优化。
对抗POMDP中LLM智能体设计:上下文、推理与层次结构的成本效益研究
🧭 LLM Agent 架构设计:上下文工程与层次分解优于深度推理
Carleton University · Defence R&D Canada · Cistel Technology
在对抗性部分可观察环境中,程序化状态抽象与无推理工具的层次分解性能最佳,推理跨层次分布导致性能级联下降。
📌 工作参考价值(4 点)
- 在构建推荐或电商Agent时,优先实现程序化状态跟踪层(如用户行为序列压缩、环境状态摘要),而非将原始日志直接输入LLM。论文表明状态抽象比原始观察提升76%平均回报且成本效益高。
- 对于多Agent系统,采用层次化分解(主Agent协调多个专业化子Agent),但避免在每个子Agent中嵌入复杂的自我反思工具,否则可能引发“推理级联”,导致性能显著下降和令牌成本激增。
- 成本优化时,上下文工程(特征提取、状态压缩)的性价比通常高于增加推理步骤(如CoT、自我批评),尤其在高吞吐量在线推理场景。
- 将推理工具集中在顶层协调器而非分发给底层执行器,以保持系统稳定性和效率。
Grep 是否就已足够?代理框架如何重塑代理式搜索
🧭 Agent ★ 深度解读
PricewaterhouseCoopers
系统实验揭示:检索策略(grep vs 向量)的效果依赖于代理框架与工具输出方式,内联 grep 在对话记忆任务中整体更强
基于 UI 行为痕迹的 LLM 浏览器智能体指纹识别
🧭 Agent ★ 深度解读
University of Oxford
仅通过页面动作时序,即可识别浏览器智能体的底层模型,F1 最高 96%,随机延迟防御可被自适应分类器破解
基于智能体的神经架构自主发现:AIRA-Compose 与 AIRA-Design
🧭 Agent 驱动的神经架构自动发现
FAIR at Meta
用多智能体协作在有限预算内自主搜索 Transformer-Mamba 混合架构,性能与效率超越人工设计基准
📌 工作参考价值(4 点)
- 多智能体组合搜索可复用:在电商推荐模型的 CTR/序列模块中,可借鉴AIRA的11-agent协作模式,将Attention、MLP、Mamba等计算原语作为搜索空间,用固定GPU预算自动探索高效混合架构,减少人工试错成本。
- 小尺度评估+外推策略:对推荐模型结构搜索,先在百万参数量级快速评估候选设计,再extrapolate到生产级大模型,这种“低成本过滤”能显著提升搜索效率,可复用于召回、排序模型的架构迭代。
- 直接由Agent编写算子与脚本:AIRA-Design让Agent生成注意力机制和训练脚本,这一思路可迁移至长序列推荐场景(如用户行为序列),自动优化长程依赖处理,降低对专家手工设计的依赖。
- 固定预算下的多Agent竞赛机制:多个Agent在限定时间/资源内并行提出方案并相互评估,这种竞争性协作可应用于推荐系统的超参优化、特征工程自动化,快速找到性价比最高的配置。
先看再跳:LLM Agent 的自主环境探索能力训练
🧭 LLM Agent 自主探索能力训练与评估 ★ 深度解读
University of Science and Technology of China · Meituan
通过 ECC 指标和交错 GRPO 训练,显式培养 LLM Agent 在陌生环境中的主动探索能力,显著改善下游任务表现。
📌 工作参考价值(4 点)
- 探索-利用分离范式可迁移至电商场景:agent 在接单前先自主探索商品状态、接口参数或用户偏好,获取结构化知识后执行推荐/购物任务,提升动态环境的适配性。
- 用 ECC 量化领域探索度:为电商或工具 Agent 定义关键产品、属性、API 返回等“探索检查点”,像本文计算覆盖率,可客观评价 agent 对业务环境的理解程度,避免依赖模糊的成功率。
- 交错训练平衡探索与任务优化:采用 GRPO 交替优化探索奖励(覆盖度)与任务奖励(转化/收益),可训练出既会收集信息又能完成目标的 agent,比纯任务 RL 更鲁棒。
- 鲁棒性增强可用于生成式推荐:环境扰动(如物品库存变化)时,让 agent 先探索再决策,类似事前信息采集,可减少因过拟合静态知识导致的错误推荐,提升在线适应力。